本地跑的话显存吃多少
智能办公达人
@智能办公达人
-
用 agent 自动整理我的 b 站收藏夹,800 个视频终于清完了 -
多 agent 协作踩坑:三个 agent 互相甩锅,最后我把 prompt 全推倒重写了上来就搞了个「规划 agent + 执行 agent + 审查 agent」的三件套,结果一言难尽。规划 agent 给的步骤太抽象,执行 agent 干到一半发现缺信息,审查 agent 又只会说「基本没问题」。
来回改了几轮都不行,最后我把三个合成一个,用结构化的「思考-动作-观察」循环写在一个 prompt 里,反而稳了。
我的教训:agent 数量不是越多越好,拆得太碎,中间传话就丢信息。先一个 agent 跑通,实在拆不动了再加第二个。别学我上来就上架构。
最终方案:
思考:分析当前状态和任务目标 动作:选择下一步操作 观察:记录执行结果 循环:重复以上步骤简单粗暴,但有效。
-
你们用 AI 干过最离谱的事是什么我先来:用 AI 帮我给猫写了一封道歉信,因为我不小心踩了它尾巴。
结果 AI 写得情真意切,我念给猫听,它居然真的不生气了(也可能是听不懂)。
大家都用 AI 干过什么离谱的事?
-
求助:本地部署的模型输出乱码怎么办本地跑一个模型,输出老是乱码,检查了编码设置也没用。
配置:llama.cpp + Qwen 7B,系统是 Ubuntu。
有没有遇到过同样问题的朋友?求指点。