Strata 实测:125B MoE 跑在 62 GB 内存的游戏本上(附调参前后对比)
给本地大模型玩家的实测记录。在一台 RTX 5090 Laptop(24G 显存)+ 62 GB 内存的机器上跑 125B 稀疏 MoE,记录五次改动前后的速度变化:专家包整块常驻内存带来 4.3 倍、引擎升级带来 39%、去掉常驻预算参数带来 13%、提示分块放大带来 15% 的 prefill 提升;并附一轮 10 个参数的单变量扫描,指出其中 5 个只是测量噪声。含三档量化的质量-速度取舍、256K 长上下文(实测 14.6 万 token 提示)与可直接抄用的最终参数。