很多人现在都用 AI 编程工具写代码、做自动化,但你有没有遇到过这种尴尬:你的 AI Agent 只能读文字、跑命令,遇到一张图片、一段视频、一份 PDF,它就”瞎了”。好消息是,阿里通义千问团队刚刚开源了一套插件,专门解决这个问题。
8 月 9 日,通义千问官方在 X 平台正式官宣:Qwen-MM-Plugins 开源了。这是一套让 AI 编程 Agent”原生看懂多模态内容”的插件包,采用 Apache-2.0 协议免费开源,也就是说,任何人都可以免费使用、修改,甚至商用。
更关键的是它的兼容性。这套插件不是只给阿里的 Qwen Code 用,而是适配了六大主流 AI Agent 环境:Claude Code、Codex、Qoder、OpenClaw、Qwen Code、Gemini CLI。也就是说,无论你平时用的是 Claude、OpenAI Codex 还是谷歌 Gemini 的命令行工具,都有机会装上这套”眼睛”。
Qwen-MM-Plugins 到底能干什么?一句话概括:把你的 AI Agent 从”只会读文字”升级成”能看图、看视频、读文档、懂 3D”。
核心包提供的能力包括:图像理解、视频理解、文档解析、3D 模型理解,外加 OCR(文字识别)、视觉定位(grounding)、图像分割、语音转写、视觉对话、网页搜索等。举个例子,你让 AI 分析一张产品设计图,它能”看见”图里的文字、元素和布局;你丢给它一段视频,它能看懂画面内容并回答相关问题。
除了核心包,这套插件还包含五个专项模块,覆盖更具体的场景:
video-memory 模块,专门做长视频问答。对超过 30 分钟的视频,它会建立分层记忆结构,让你可以针对视频内容提问——适合看教程视频、会议录像、素材复盘。
video-edit 模块,覆盖图像、视频、音频的生成与编辑工作流。AI 不仅能”看懂”媒体,还能帮你处理媒体。
blender 模块,直接驱动正在运行的 Blender 实例,通过 Python 工具完成建模、材质、灯光、渲染操作。做 3D 设计的朋友可以试试让 AI 帮你调场景。
freecad 模块,提供参数化 CAD 自动化,包括属性修改、STEP/STL 导入导出、有限元分析(FEM)相关流程。工程师和产品设计群体可以直接受益。
edu-agent 模块则很有意思:把数学或科学题目,自动转成一步步讲解的中文教学视频或交互页面。老师和做教育内容的自媒体可以重点关注。
安装也设计得很”懒人友好”。核心包提供了官方一键安装脚本:
curl -fsSL https://raw.githubusercontent.com/QwenLM/Qwen-MM-Plugins/main/install.sh | bash
装完以后,在 Qwen Code 里可以直接用 /extensions 管理插件,支持热加载;在 OpenClaw 里用 openclaw plugins install 安装。不需要单独建虚拟环境,Python 依赖会在首次启动时自动处理。配置信息统一存在 ~/.qwen-mm-plugins/config,多个终端和 GUI 客户端可以共享。
这里要特别提醒几个”坑”,避免踩雷。
第一,高级功能依赖 API。图像理解、OCR、语音转写、媒体生成这些能力,需要阿里 DashScope 的 API key;网页搜索功能需要 Serper 的 API key。也就是说,基础的本机识别能力是免费的,但要用满全套能力,还是会有 API 调用成本。
第二,系统依赖要装齐。视频和音频处理依赖 ffmpeg;文档可视化可能要用 LibreOffice;3D 相关路径可能需要 Blender、LaTeX 或 Chromium。建议按需选择模块,不要一次全装,这样既省时间,也能缩小工具的”攻击面”,权限审查更轻松。
第三,Windows 用户要注意。项目官方文档明确说,原生 Windows 环境尚未验证,建议使用 WSL2(Windows 子系统 for Linux)运行,会更稳。
第四,插件包目前仍处于早期阶段。它更像是一个小型仓库,文档主要描述了能力规划,生产部署案例和独立基准评测还不多。对于要处理敏感文档的企业用户,务必先确认哪些功能在本地跑、哪些要过外部 API,评估好成本和数据边界。
为什么这套插件值得普通人关注?因为它回答了一个很实际的问题:AI 已经在”理解世界”,但你的 Agent 还被困在”文本世界”。装一套开源插件,就能让 Claude Code 或 Codex 这类成熟工具直接获得读图、审视频、处理文档的能力——不用换工具,不用重新学习,几分钟就能让现有 Agent 的能力上一个大台阶。
尤其是对于做自媒体、设计、工程和教育的副业党:AI 能看图改图、审视频、读 PDF、理解 3D 文件之后,很多过去要”人肉搬运”的流程都可以直接交给 AI。比如,让 Claude Code 看完产品截图后帮你写详情文案,让 Codex 解析 CAD 图纸后自动生成报价说明,让 Qwen Code 把一道数学题直接变成教学视频。
从行业趋势看,这个动作也很有信号意义。阿里把 Qwen 的多模态能力做成”即插即用”的插件,而不是逼开发者迁移到自家平台,本质上是把能力分发到竞争对手的生态里。这背后是一个正在发生的行业变化:模型能力越来越像”基础设施”,谁能把能力送进开发者已经在用的工具里,谁就赢了下一程。
如果你已经在用 AI 编程工具,不妨今天就装上 Qwen-MM-Plugins 试试,给 AI 装上一双”眼睛”。免费、开源、五分钟上手,值得一试。




我要评论
登录后即可发表评论