Ollama 命令行工具（CLI）

Ollama 提供了多种命令行工具（CLI）供用户与本地运行的模型进行交互。

基本格式：

ollama  [args]

我们可以用 ollama --help 查看包含有哪些命令：

Large language model runnerUsage:  ollama [flags]  ollama [command]Available Commands:  serve       Start ollama  create      Create a model from a Modelfile  show        Show information for a model  run         Run a model  stop        Stop a running model  pull        Pull a model from a registry  push        Push a model to a registry  list        List models  ps          List running models  cp          Copy a model  rm          Remove a model  help        Help about any commandFlags:  -h, --help      help for ollama  -v, --version   Show version information

1、使用方法

ollama [flags]：使用标志（flags）运行 ollama。

ollama [command]：运行 ollama 的某个具体命令。

2、可用命令

serve：启动 ollama 服务。

create：根据一个 Modelfile 创建一个模型。

show：显示某个模型的详细信息。

run：运行一个模型。

stop：停止一个正在运行的模型。

pull：从一个模型仓库（registry）拉取一个模型。

push：将一个模型推送到一个模型仓库。

list：列出所有模型。

ps：列出所有正在运行的模型。

cp：复制一个模型。

rm：删除一个模型。

help：获取关于任何命令的帮助信息。

3、标志（Flags）

1. -h, --help：显示 ollama 的帮助信息。
2. -v, --version：显示版本信息。

完整示例：

1. 拉取与删除模型

pull拉取远端模型到本地。

ollama pull 

rm / remove删除本地模型。

ollama rm 

list / ls列出所有本地模型。

ollama list

2. 运行模型

run交互模式运行模型，不退出。

ollama run 

可带系统信息与 prompt：

ollama run  -s "" -p ""

run + script从文件读取 prompt：

ollama run < input.txt

当你输入 ollama run 进入聊天界面后，你不再是在操作命令行，而是在和 AI 对话。这时你可以使用以 / 开头的快捷指令来控制对话：

1. /bye 或 /exit：最重要！ 退出聊天界面，返回命令行。
2. /clear：清空当前的上下文记忆（开启一段新的对话）。
3. /show info：查看当前模型的详细参数信息。
4. /set parameter seed 123：设置随机种子（高级玩法，用于复现结果）。
5. /help：在聊天中查看所有可用的快捷键。

3. 推理接口（一次性执行）

generate执行单次推理，输出文本。

ollama generate  -p ""

4. 创建与修改模型

create用 Modelfile 创建本地模型。

ollama create  -f Modelfile

cp复制一个模型为新名字。

ollama cp 

5. 服务器相关

serve启动 Ollama 本地服务（默认 11434）。

ollama serve

run serverless当 ollama run 时会自动拉起后台服务，不需单独执行。

6. 模型信息

show查看模型元数据、参数、模板。

ollama show 

7. 专用参数

这些参数多数可用于 run/generate：

--num-predict     限制输出 token 数--temperature      控制随机性--top-k              采样范围--top-p            核采样--seed               固定随机性--format json             输出 JSON--keepalive      会话保持时间

8. Modelfile 指令

构建模型时使用：

1. FROM ：基础模型
2. SYSTEM "xxx"：设定系统提示
3. PARAMETER key=value：设定默认参数
4. TEMPLATE "xxx"：自定义 Chat 模板
5. LICENSE "xxx"：设置 License
6. ADAPTER  / WEIGHTS ：加载 LoRA 或额外权重

9. API（当 serve 运行时）

REST 端点（默认 http://localhost:11434/api）：

1. /api/generate：文本生成
2. /api/chat：对话流式接口
3. /api/pull：远程拉取
4. /api/tags：本地模型列表

调用示例（curl）：

curl http://localhost:11434/api/generate   -d '{"model":"qwen2.5","prompt":"hello"}'

10. 进阶

自定义参数运行：

ollama run  --temperature 0.2 --top-p 0.9