Ollama 是一个类似于 Docker 的工具，最初使用 GGML 格式的大语言模型，能够在普通硬件上运行。现在，Ollama 支持从 Huggingface 直接拉取 GGUF 格式的大模型，用户只需一条命令即可运行模型，无需手动下载和配置 Modelfile。这一更新极大地简化了模型部署流程，用户可以访问 Huggingface 上的约 45,000 个 GGUF 模型。此外，用户还可以选择特定的量化方案来优化模型运行。这一升级标志着 Ollama 在模型管理和部署方面的重大进步。