transformers 支持直接加载 GGUF 量化模型，本地推理性能接近 llama.cpp

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmuckj3gv09kiroed6m91iyre

信息源：AI HOT · 精选

• 原文链接：transformers 支持直接加载 GGUF 量化模型，本地推理性能接近 llama.cpp
• 分类：AI 产品
• 作者：Hugging Face：Blog（RSS）
• 发布时间：2026/09/22 08:00