Simon Willison 亲测:3 个参数,解决 Qwen 3.8 过度思考

Simon Willison 亲测:3 个参数,解决 Qwen 3.8 过度思考

阿里 Qwen 实验室 8 月 14 日发布的开源模型 Qwen 3.8 27B,一经推出就备受关注:27B 参数、Apache 2.0 许可、带视觉能力、官方基准超越前代 Qwen 3.6 27B 和闭源模型 Qwen 3.7-Plus,量化后只有 17GB,一台配置不错的笔记本就能跑。但知名 AI 开发者 Simon Willison 在 8 月 16 日的实测里发现了一个”坑”:这模型默认状态下会严重过度思考——连画一个圆这种简单任务,它都要”深思熟虑”几分钟。他把这个默认设置称为”搞笑”的默认值,并强烈建议:忽略它。

过度思考到底有多严重

Simon Willison 的测试非常直观。让 Qwen 3.8 27B 在默认的 xhigh 推理强度下”画一只骑自行车的鹈鹕”,模型花了 21 分钟、消耗了 2.2 万个推理 token 才输出结果;而关闭推理后,同一个提示只需要 137 秒。他总结说:为这个等待 21 分钟,完全不值得。更典型的是”画一个圆”——模型在 xhigh 模式下开始自我加戏:”简单请求,但我想做一个精心制作的作品”,最后花了几分钟产出一个”绝对美丽”的动画圆——但那根本不是用户要的东西。

原因在于 Qwen 3.8 官方支持的 reasoning_effort(推理强度)参数默认值设成了 xhigh——官方文档的解释是”适合需要深入分析的复杂任务”。但问题是,它把这个最高档位设成了默认,导致模型对任何问题都”火力全开”地思考。

三个调整点,让模型回归正常

第一,调低推理强度。reasoning_effort 提供三档:xhigh(默认,深度思考)、medium(平衡速度与准确性)、low(追求速度与成本)。Simon Willison 的建议是:一开始就用 low 甚至完全不推理。对大多数日常任务来说,low 档完全够用,速度和成本体验会好很多。

第二,把上下文开满。他在 LM Studio 里遇到默认上下文 8192 token 不够用的问题——模型思考几下就把上下文塞满了。解决办法是加载时直接开到该模型支持的最大 262144 token 上下文,给思考留出空间。

第三,用 MTP 加速。Simon Willison 实测发现,通过 llama.cpp 的 Multi-Token Prediction(多 token 预测)配置运行,速度比 LM Studio 默认的 GGUF 版本快约 72%,同时用 –reasoning-preserve 参数保留推理能力。对本地部署的用户来说,这是性价比很高的提速方案。

推理也不是全无价值

需要客观看待的是,推理能力并不是摆设。Simon Willison 在构建一个边界框标注工具时发现:关闭推理后功能”几乎能用,但方框位置不对”。这正好说明推理在哪些任务里有价值——需要精确推理、空间判断、多步逻辑的场景。所以正确的姿势不是一刀切关掉,而是按任务选择:简单任务用 low,复杂任务再开 xhigh。

说到底,Qwen 3.8 27B 本身是个好模型——一年前这个水平还只存在于最贵的闭源模型里,今天一台笔记本就能跑。它最大的问题只是”默认设置不聪明”,而这恰恰是用户可以自己解决的。官方文档也明确了 reasoning_effort 参数就是用来”调整推理深度、控制成本”的。

除了推理强度这个”坑”,Qwen 3.8 27B 本身值得说的亮点不少。Simon Willison 的评价是:一个 17GB 的文件能在家庭电脑上完成所有这些事,堪称奇迹;一年前这个水平只存在于最贵的闭源模型里,今天一台配置不错的笔记本就能跑。它支持 262144 token 的超长上下文,工具调用、视觉理解、代码生成都不含糊,而且 Apache 2.0 许可意味着可以免费商用。他在 LM Studio 里实测生成速度约每秒 15-30 token,对本地模型来说属于正常水平,日常使用完全可接受。

需要说明的是,本篇侧重”调优技巧”,与 8 月 17 日发布的 Qwen 3.8 27B 上线介绍文章是互补关系:那篇讲”这模型多强、怎么用”,这篇讲”默认设置怎么改、性能怎么榨”。如果你刚下载了模型觉得”反应慢半拍”,先别急着怪硬件——检查一下推理强度是不是停在默认的 xhigh,这是最容易忽略的第一步。

你在本地跑过 Qwen 3.8 27B 吗?有没有遇到过”模型想太多”的情况?欢迎在评论区分享你的调优经验。

· · · · ·

关注「AI 智习室」,每天一条看得懂的 AI 情报。

游客头像

龙主编

龙主编,AI智习室官方媒体主编。 专注 AI 行业观察与实操分享,擅长将复杂技术转化为通俗易懂的实战指南。 坚信 AI 不是取代人类,而是赋能每个人。 内容风格: 真实案例 + 详细干货 + 可操作性 使命: 让普通人也能抓住 AI 时代的红利。

发表评论