1. huggingface 上搜 gguf，量化的仓库一堆
2. modelscope 国内镜像，速度快，就是有些模型不全
3. hf-mirror，huggingface 的国内镜像站，直连慢的时候用

国内的话 modelscope 和 hf-mirror 基本够用。huggingface 直连现在时好时坏，下大文件还是走镜像稳。

下载工具推荐 hf 的 cli，能断点续传。

# 使用 huggingface-cli 下载
pip install huggingface_hub

# 下载模型
huggingface-cli download TheBloke/Llama-2-7B-GGUF   llama-2-7b.Q4_K_M.gguf   --local-dir ./models

断点续传真的救命，下到 90% 断了也不用重来。