15 秒出图,155 秒交白卷:本地大模型的三个坑
同一句提示词、同一个模型:一次 15 秒就画出了能看的图,另一个 155 秒跑完、一个字都没给。中间差的不是模型能力,是三个设置。这篇讲清它们,以及怎么绕开——尤其在你打算用它干正经活的时候。
先说结论
同一个模型忽好忽坏,多半不是它变笨了,而是三件事没配对:思考档、输出预算、以及它想调工具的那只手。
下面全部数据来自一台本地部署的 Qwen3.8-Flash-Next(125B 稀疏 MoE,IQ3_S 量化档,62 GB 内存的机器,RTX 5090),temperature 0.7、未固定随机种子、单次采样。任务本身很简单:画一只骑自行车的鹈鹕(经典 SVG 与动画两条),所以好与坏一眼可判。
一、同一道题,三种结局
| 用例 | 思考 | 耗时 | 输出 token | 结果 |
|---|---|---|---|---|
| 经典题 | 关 | 16.2 s | 2,113 | ✅ 出图 |
| 经典题 | 开(16K 预算) | 154.8 s | 16,384(撞顶) | ❌ 零输出,推理写了 36,688 字符 |
| 经典题 | 开(32K 预算) | 101.8 s | 10,692 | ✅ 出图(推理 15,373 字符) |
| 动画题(原样问) | 关 | 1.9 s | 118 | ❌ 只回一句计划,然后去调工具了 |
| 动画题(要求直接输出,8K) | 关 | 72.0 s | 8,192(撞顶) | ⚠️ 20,770 字符 HTML 被截断 |
| 动画题(要求直接输出,16K) | 关 | 97.5 s | 11,493 | ✅ 完整 HTML 28,204 字符 |
| 备用题(火烈鸟骑独轮车) | 关 | 11.9 s | 1,519 | ✅ 出图 |
注意第一行和第三行:同样的题,一样的模型,一个 16 秒出图,一个 155 秒什么都没给。
二、坑一:思考档会先把预算吃光
打开“思考”(reasoning)之后,模型会先写一大段推理再输出答案。温和的任务上这是加分项;但预算是共享的——推理写多了,留给答案的就少了,甚至没有。
上面那两次失败很典型:16K 预算下,它把 16,384 个 token 全烧在推理里(推理文本 36,688 字符),最后连一个字符的图都没输出,被硬截断。把预算提到 32K,它反而收敛得更快:推理 15,373 字符就收手,101.8 秒正常出图。
所以对“要直接产出结构化内容”的任务(画一张图、吐一个文件、填一份表格),先关思考。要开,就至少给到 32K 预算,并且接受它慢 5~6 倍——而且出来的成品,细节并不一定比关掉时更精细。
三、坑二:输出预算是硬约束
第二类是“一次吐一个大文件”的任务。让它生成一个自包含的 HTML 动画:8K 上限时,输出的 HTML 有 20,770 字符,在半个路径中间被截断(没写完 </html>);同一提示词把上限提到 16K,97.5 秒给出了完整的 28,204 字符。
判据很简单:你要求的东西有多大,就得给它多大的输出空间。 一张 SVG 通常 2~8 K 字符,一个自包含动画页 20~30 K 字符——按这个量级设上限,而不是用默认值碰运气。
顺带说,本地跑的好处在这里体现得最明显:上限设大不花钱。云端按输出 token 计费时,你会本能地压预算,然后拿到截断的产物。
四、坑三:你说“创建”,它就想调工具
动画题第一次是用原话问的:“Create an animated SVG …”。它的回复只有一句:
I'll create an animated SVG of a pelican riding a bicycle with spinning wheels and pedaling legs. Let me set up the project with React and build a detailed, self-contained SVG.
然后就停了——响应的 finish_reason 是 tool_calls,它在等一个工具。这一档模型的 agent 训练痕迹很重:你让它“创建”一个东西,它默认自己处在能读写文件、能执行命令的环境里,于是先开工而不是先交作业。
修法很朴素,一句话加上约束就行:
Output only one complete, self-contained HTML file …. Do not use any tools. Do not explain anything. Start your reply with
<!DOCTYPE html>
加上这三句之后,它老老实实直接输出(也就有了上一节那个完整 HTML)。
五、还有一条看不见的:方差
同一句提示词、同一个温度,连问三次,得到三只不一样的鹈鹕——16.2 秒、21.2 秒、15.3 秒,三张图的完成度肉眼可见地不同(车架都对,差别在喙袋、脖子长度这些细节上)。
结论不是“模型不稳”,而是:单次结果不能当水平。要比较两个配置,要么多跑几次看中位数,要么就认“这次手气好”。我们在别处做过更严格的重复测量,同一配置的跨重启漂移能到 ±5~9%——小于这个幅度的差异,一律当噪声处理。
六、四条可直接用的规矩
- 要成品,先关思考;要开就至少 32K 预算,并接受慢 5~6 倍。
- 按产物体量给输出上限:SVG 给 8K,自包含 HTML 给 16~32K,别用默认值。
- 明确要求“直接输出、不要用工具、不要解释”,尤其是动作词是“创建/做/写一个”的时候。
- 一次结果不当结论:同配置多跑几次,差异小于一成就别当成“优化有效”。
最后回到那两种结局:15 秒出图和 155 秒交白卷,用的是同一个模型、同一道题。差的从来不是模型能力,而是你有没有把这三个开关配对。 本地部署真正的门槛也不在“跑起来”——而在这些开关上。
口径:模型为 Qwen3.8-Flash-Next(125B 稀疏 MoE,IQ3_S 量化档),部署在自有服务器(RTX 5090 / 62 GB 内存),temperature 0.7、未固定随机种子、单次采样;输出用 Chromium 无头渲染截图核对。文中耗时与 token 为 2026-10-15 实采。