# ollama-docker

**Repository Path**: wiseai/ollama-docker

## Basic Information

- **Project Name**: ollama-docker
- **Description**: 使用docker compose管理ollama
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2026-04-16
- **Last Updated**: 2026-04-16

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# Ollama Docker Compose

使用 Docker Compose 运行 Ollama 的配置集合，支持多种硬件加速后端。

## 支持的服务

| 服务 | 描述 |
|------|------|
| ollama_cpu | CPU 版本 |
| ollama_nvidia | NVIDIA GPU 加速 |
| ollama_rocm | AMD ROCm 加速 |
| ollama_vulkan | AMD Vulkan 加速 |

## 快速开始

```bash
# 启动服务
docker compose up -d

# 查看状态
docker compose ps

# 查看日志
docker compose logs -f
```

## 配置说明

- 默认端口: 11434
- 最大上下文长度: 128000
- 并行请求数: 4
- Flash Attention: 启用

## 环境变量

| 变量 | 描述 | 默认值 |
|------|------|--------|
| `OLLAMA_HOST` | 服务监听地址 | 0.0.0.0:11434 |
| `OLLAMA_FLASH_ATTENTION` | 启用 Flash Attention 加速 | 1 |
| `OLLAMA_CONTEXT_LENGTH` | 最大上下文长度 | 128000 |
| `OLLAMA_NUM_PARALLEL` | 并行请求数 | 4 |
| `OLLAMA_VULKAN` | AMD Vulkan 支持 | 1 |
| `JETSON_JETPACK` | Jetson 平台版本 | 6 |

详见 [AGENTS.md](./AGENTS.md)