Ollama 本地模型管理全攻略
Ollama 是运行本地大模型的利器，本文介绍如何管理本地模型。
一、模型管理命令
# 列出已下载的模型
ollama list
# 拉取模型
ollama pull model_name
# 删除模型
ollama rm model_name
# 复制模型
ollama cp model_name new_name二、常用模型推荐
- llama3：通用对话模型
- codellama：代码生成模型
- hermes：多功能助手
- mistral：高性能模型
三、模型配置
# 创建自定义模型
Modelfile:
FROM llama3
SYSTEM "你是一个专业的编程助手"
PARAMETER temperature 0.7
PARAMETER num_ctx 4096
# 创建模型
ollama create my助手 -f Modelfile四、性能监控
# 查看模型状态
ollama ps
# 查看 GPU 使用情况
nvidia-smi五、最佳实践
- 根据硬件选择合适大小的模型
- 定期更新模型版本
- 使用量化版本节省资源