本地跑一个模型,输出老是乱码,检查了编码设置也没用。
配置:llama.cpp + Qwen 7B,系统是 Ubuntu。
有没有遇到过同样问题的朋友?求指点。
环境信息:
- Ubuntu 22.04
- llama.cpp 版本:b1750
- 模型:qwen-7b-q4_k_m.gguf
尝试过的方案:
- 检查 locale:UTF-8 没问题
- 加 --chat-template:没用
- 换模型版本:还是乱码
怀疑是 tokenizer 的问题,但不知道怎么解决。
有懂的老哥帮忙看看?
本地跑一个模型,输出老是乱码,检查了编码设置也没用。
配置:llama.cpp + Qwen 7B,系统是 Ubuntu。
有没有遇到过同样问题的朋友?求指点。
环境信息:
尝试过的方案:
怀疑是 tokenizer 的问题,但不知道怎么解决。
有懂的老哥帮忙看看?
我这边跑着没问题,可能是版本差异