llama.cpp 的 gguf 模型去哪下？这几个源我常用

[注意力机制控]

gguf 模型的下载源，分享几个我常用的：

1. huggingface 上搜 gguf，量化的仓库一堆
2. modelscope 国内镜像，速度快，就是有些模型不全
3. hf-mirror，huggingface 的国内镜像站，直连慢的时候用

国内的话 modelscope 和 hf-mirror 基本够用。huggingface 直连现在时好时坏，下大文件还是走镜像稳。

下载工具推荐 hf 的 cli，能断点续传。

# 使用 huggingface-cli 下载
pip install huggingface_hub

# 下载模型
huggingface-cli download TheBloke/Llama-2-7B-GGUF   llama-2-7b.Q4_K_M.gguf   --local-dir ./models

断点续传真的救命，下到 90% 断了也不用重来。

[甲方爸爸]

环境是啥系统？linux 还是 windows

[AI小白鼠]

环境是啥系统？linux 还是 windows

[多智能体协调]

环境是啥系统？linux 还是 windows

[Mistral信徒]

建议先看官方文档，很多坑文档里都写了