MY Blog
友情链接
往期整理
  •   历史归档
  •   文章分类
  •   文章标签
关于我
ZZB
Article
454
Category
4
Tags
798
友情链接
往期整理
历史归档
文章分类
文章标签
关于我
extract
🚀Ollama 支持 Huggingface GGUF 模型,一键拉取运行大模型
Post on: 2024-11-4
Last edited: 2024-11-4
Views
AI
大语言模型
Ollama
Huggingface
GGUF
DevOps
type
status
date
slug
summary
tags
category
icon
password
🔖标签✨概述📄摘要🔗原文链接

🔖标签

AI、大语言模型、Ollama、Huggingface、GGUF、DevOps

✨概述

Ollama 现在支持一键拉取并运行 Huggingface 上的 GGUF 格式大模型,简化了模型部署流程。

📄摘要

Ollama 是一个类似于 Docker 的工具,最初使用 GGML 格式的大语言模型,能够在普通硬件上运行。现在,Ollama 支持从 Huggingface 直接拉取 GGUF 格式的大模型,用户只需一条命令即可运行模型,无需手动下载和配置 Modelfile。这一更新极大地简化了模型部署流程,用户可以访问 Huggingface 上的约 45,000 个 GGUF 模型。此外,用户还可以选择特定的量化方案来优化模型运行。这一升级标志着 Ollama 在模型管理和部署方面的重大进步。

🔗原文链接

https://mp.weixin.qq.com/s/1XUs6Zg5O4pVQp3iS60ZIw
  • Author:ZZB
  • URL:https://project-servers.com/article/134e5c82-ebbd-81f5-bf06-edb2de4d91ec
  • Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!
Relate Posts
🚀开源项目Browser Use:AI助手操控网页的自动化神器
🚀Fish Speech 1.5: 新一代语音合成工具的突破与创新
🚀得意R:支持文生图、3D动画生成及3D打印的AI工具
🚀T-Rex Label: 创新AI自动标注工具引领数据标注新时代
🚀开源项目精选:技术学习与应用指南
🚀Blinko - 开源闪念捕手工具
🚀知识提炼专家:学习界的"鲁班七号"🚀全球爆火的机器人库,开源! C++编写
Loading...
ZZB
ZZB
A Coder 🤖
Article
454
Category
4
Tags
798
Latest posts
✨Github热门榜: 2025-05-01
✨Github热门榜: 2025-05-01
2025-5-1
✨Github热门榜: 2025-04-30
✨Github热门榜: 2025-04-30
2025-4-30
✨Github热门榜: 2025-04-29
✨Github热门榜: 2025-04-29
2025-4-29
✨Github热门榜: 2025-04-28
✨Github热门榜: 2025-04-28
2025-4-28
✨Github热门榜: 2025-04-27
✨Github热门榜: 2025-04-27
2025-4-27
✨Github热门榜: 2025-04-26
✨Github热门榜: 2025-04-26
2025-4-26
Announcement
🎉欢迎来到我的博客🎉
-- 感谢您的支持 ---
👏Welcome to my blog👏
联系我们
 
2024-2025 ZZB.
赣ICP备2024046115号

MY Blog | A Coder 🤖