docker exec -it [ollama容器名称] ollama run [需要部署的大模型名称]
示例:
ollama
的容器中部署 llama2
7b
规格的对话(chat
)模型docker exec -it ollama ollama run llama2:7b-chat
ollama
的容器中部署 llama2
7b
规格的文本生成(text
)模型docker exec -it ollama ollama run llama2:7b-text
ollama
的容器中部署 llama2-chinese
7b
规格的对话(chat
)模型docker exec -it ollama ollama run llama2-chinese:7b-chat
curl -X POST http://localhost:11434/api/generate -d '{
"model": "llama2",
"prompt":"Why is the sky blue?"
}'