深度应用技巧
共 45 篇
先抛一个反直觉的事实：腾讯混元 8 月 28 日发布的 Hy4 preview，总参数 770B，每次推理只激活 49B，上下文 1M，API 输入定价 6 元每百万 token。 大，通常意味着贵。但这次是又大又便宜。中间的矛盾，靠一个叫 MoE 的架构给抹平了。 这篇不讲公式，只把三件事讲明白：MoE 稀疏激活到底省了什么、1M 上下文意味着什么、以及这次发布里真正值钱的那条信息是什么。 一、…
大模型训练的「效率天花板」可能要被打破了。8 月下旬，中国人民大学高瓴人工智能学院李崇轩、文继荣团队联合蚂蚁集团，发布了一项重量级研究：首次系统刻画了混合专家（MoE）扩散语言模型的扩展定律，并据此从头训练出新一代扩散语言模型 LLaDA MoE v2——只用了 Qwen3 同规模约 65% 的预训练词元，就在多项基准上逼近甚至超越 Qwen3 的水平。 这是扩散语言模型路线的一个重要里程碑。但很…
AI 怎么帮企业做软件开发？各家大厂都在探索，但最权威的答案，通常藏在「他们自己怎么用」里。8 月 21 日，Anthropic 官方博客发布了一篇《AI 原生 SDLC 实战手册》，详细拆解了 Claude 是如何重塑自家软件开发生命周期（SDLC）的。 SDLC 是「软件开发生命周期」的缩写，覆盖从需求、编码、测试、评审到部署的完整流程。Anthropic 这篇官方手册的价值在于：它不是理论推…
阿里 Qwen 实验室 8 月 14 日发布的开源模型 Qwen 3.8 27B，一经推出就备受关注：27B 参数、Apache 2.0 许可、带视觉能力、官方基准超越前代 Qwen 3.6 27B 和闭源模型 Qwen 3.7-Plus，量化后只有 17GB，一台配置不错的笔记本就能跑。但知名 AI 开发者 Simon Willison 在 8 月 16 日的实测里发现了一个”坑&#…
会用 AI 写几段代码，和能设计一个让 AI 跑在里面的系统，是两码事。最近 GitHub 上冒出一个开源项目 enterprise-system-design（上线数日 531 星），定位很清晰：一份从真实系统出发、教工程师设计「用得上 AI 的系统」的课程与参考。它不是玩具demo，而是冲着「企业级」来的。对想从「写代码的人」往上走一步的打工人，这份资料值得收藏。 531 星开源课：让 AI …
OpenAI 未发布模型 Astra 解决 10 道长期未解数学难题：250+60 页论文、Lean 形式化验证、约 2000 美元自估成本；学界兴奋与担忧并存，成果未经正式同行评审。
把一个大模型装进手机里、不联网也能聊天，是很多隐私敏感用户一直以来的愿望。8 月 4 日登上 Hacker News 热榜的开源项目 Swiftlet，把这件事往前推了一大步：它用一套 Swift + Metal 运行时，让 80B 参数的大模型在 Mac 上运行时峰值内存只有 4.3GB，35B 版本甚至能在 iPhone 上原生运行——据开发者称，这是该量级模型首次在手机上原生跑通，全程不碰服…
前面一篇讲多 Agent 实战用的是「5 个 Agent 模拟一个团队」这种偏概念的方式。今天这篇文章往深处推——讲企业级多 Agent 系统必然会遇到的「编排」问题。 当你有 5 个、10 个、20 个 Agent 在一个系统里同时跑,关键问题不再是「单个 Agent 怎么做」,而是「这些 Agent 之间怎么配合、谁调度谁、信息怎么传、出了错怎么办」。这就是「多 Agent 编排」(Multi…
RAG 和 MCP 已经这么强了,为什么还要学微调? 这是 2026 年 AI 工程师最常问的问题之一。答案是:RAG 和 MCP 解决的是”知道什么”,微调解决的是”怎么说、怎么思考”。这两个维度是互补的,不是替代关系。 RAG 让模型能查到你公司的私有文档,但它不能让模型”用你公司的语气说话””遵守你公司的内部…
如果你的项目已经在用 RAG,大概率会有这种体验:最基础的”向量检索 + LLM 生成”能跑,但准确率不够高——用户问个稍微复杂的问题,系统要么检索不到相关内容,要么检索到了但 LLM 没正确理解。怎么办?改 embedding?改 prompt?改 chunk size? 这些”打补丁”的做法只能缓解表面问题。要真正提升 RAG 的能力,你需要从架…
前面两篇文章我们分别从资讯(腾讯应用宝 + 北大定调)和零基础入门(AI Agent 核心概念、LangGraph 实战)的角度讲了 Harness 的概念。今天我们把这个话题推到最深处——从 OpenAI 的工业级实践出发,讲清楚 Harness 到底是什么、为什么关键、怎么在你的 Agent 项目里落地。 Harness Engineering 是 OpenAI 在 2026 年 2 月正式提…
6 月底到 7 月初,本地大模型生态出现了三个肉眼可见的拐点:一是 Qwen 团队连续放出 Qwen3-32B 和 Qwen3-Next 80B 的本地友好权重,32B 模型在 24GB 显存上第一次实现全精度运行;二是微软 Phi-4 14B 用 14B 的小钢炮体量,跑分压过了一票 70B 模型;三是 arxiv 在 7 月初挂出的 Wiola 架构论文,把”小模型高效推理R…
2026 年 6 月 8 日凌晨 0 点 28 分，OpenClaw 创始人 Peter Steinberger 在 X 上发了两句话。没有任何图，没有任何代码链接，纯粹是 6 个英文单词（外加一个省略号）：「You shouldn’t be prompting coding agents anymore. You should be designing loops that prom…
如果把 2025 年的 AI 圈浓缩成一个词，那是 “Prompt Engineering”。把 2026 年上半年的 AI 圈浓缩成一个词，那一定是 “Context Engineering”（上下文工程）。 这个概念从 2025 年中由 Karpathy 和 Shopify CEO Tobi Lutke 推文带入主流，到 Anthropic 给出…
如果前三篇(Claude Code / Cursor / Coze)解决的是「怎么用 AI 写代码、搭零代码应用」,那 Dify 解决的是另一个问题:怎么把 AI 应用真正落地到生产环境。 这一篇是【AI编程实战】系列的第四篇(前三篇是 Claude Code、Cursor、Coze,下一篇是 Codex CLI),我们用 Dify 1.0 搭一个企业级私有知识库:从 Docker 部署、知识库配…
章节导语 Day30，我们终于来到了这个系列的终点。 30天前，我们从AI Agent的基本概念出发，一路走过了RAG知识库、向量数据库、模型微调、私有化部署、云原生架构、监控运维、多Agent系统、多模态应用……每一个章节都是AI工程化的一个重要领域。 但这只是开始。AI的发展速度远超我们的想象——GPT-5已经在路上，Agent的能力每天都在提升，AGI的曙光似乎已经出…
章节导语 AI能力越强，责任越大。 当AI做出影响贷款审批、招聘筛选、医疗诊断、司法判决等重大决策时，我们能否解释AI为什么做出这个决定？当AI系统因为训练数据的偏见而对特定群体产生歧视时，谁该负责？当AI生成的内容被恶意使用时，谁能阻止？ AI安全和伦理不是可选项，而是AI系统能否持续发展的前提。一个不被社会信任的AI，无论技术多先进，都难以真正落地。 本文系统讲解AI安全与伦理实践，包括AI伦…
章节导语 真实世界的信息不只是文本。 一张图片胜过千言万语，一段视频包含丰富的时间信息，一段语音承载着情感和语气。单一模态的AI如同只有一种感官的生物，能做的事情有限。而多模态AI则像拥有多种感官的生物，能够更全面地理解和与世界交互。 本文系统讲解多模态AI应用开发，包括CLIP/GPT-4V等多模态模型的原理、文生图/图生文/视频生成等应用的实现，以及如何构建自己的多模态AI系统。 一、多模态A…
章节导语 当你需要构建一个复杂的AI系统时，单一的任务流程远远不够。 想象一个AI数据分析平台：它需要先收集数据、清洗数据、分析数据、生成报告、发送邮件……这些任务之间有复杂的依赖关系——有些可以并行，有些必须等待前面的任务完成。而且，某个环节失败了怎么办？重试？跳过？还是回滚？ 这就是DAG工作流的价值所在。本文系统讲解复杂任务编排与执行，从DAG设计原理到工作流引擎开发…
章节导语 AI的价值最终要落实到具体的行业场景中。 制造业引入AI进行预测性维护，一年省下数千万的设备维修费用；医疗行业用AI辅助影像诊断，帮助医生更早发现癌症；零售业用AI优化库存和推荐，年营收提升15%……这些不是想象，而是正在发生的现实。 本文选取制造业、医疗、零售、金融四个典型行业，深入讲解AI落地的实际方案、关键技术挑战、ROI评估方法，以及行业特有的合规要求。 …
章节导语 单Agent的能力有限，但当多个Agent协作时，能解决的问题边界会急剧扩大。 想象一下：一个Agent负责规划，一个负责执行，一个负责验证，一个负责记忆……它们各司其职、相互协作，像一个高效的团队一样工作。这就是Multi-Agent系统的魅力。 本文系统讲解Multi-Agent系统的开发框架与实战，包括LangChain、AutoGPT、MetaGPT等主流…
章节导语 AI时代，安全问题比以往任何时候都重要。 AI系统面临的不仅是传统的网络安全威胁，还有模型特有的攻击面：Prompt注入、对抗样本、数据泄露、模型窃取……每一个都可能导致灾难性的后果。 去年某公司的AI客服被恶意用户通过Prompt注入泄露了全部训练数据；某自动驾驶系统被对抗样本欺骗，误识别了停车标志。这些事件提醒我们：AI安全不是事后的补丁，而是设计之初就要考虑…
章节导语 AI的真正价值不在于技术多先进，而在于能否真正赋能业务。 很多团队的AI项目失败了，不是因为模型不够好，而是因为没有和业务场景结合起来。AI不是万能药，不是所有问题都需要用AI解决，也不是所有问题都能用AI解决。 本文系统讲解如何让AI真正赋能业务，包括AI驱动决策的方法论、业务价值评估、AI与业务团队的协作模式、以及如何避免AI项目的常见陷阱。 一、AI赋能业务的前提 1.1 不是所有…
章节导语 单机部署的AI模型，QPS上不去、容灾做不到、弹性扩容更是天方夜谭。当业务从1万用户增长到100万时，你怎么办？ 云原生是AI系统走向生产级的必由之路。容器化让AI模型可以快速部署和扩缩容，Kubernetes让AI服务可以弹性伸缩，服务网格让AI系统可以精细化管理。 本文系统讲解云原生AI架构设计，包括容器化部署、Kubernetes编排、服务网格、弹性伸缩、CI/CD流水线等实战内容…
精选工具、实操步骤与副业思路，免费送到邮箱。不推销、不打扰，随时退订。
每周一封，随时退订。
