2026 年 7 月 15 日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》正式落地。这是我国首部针对 AI 拟人化互动服务的专门立法,也是人工智能”小快灵”立法的新实践。新规聚焦”拟人化”与”持续性情感互动”两个关键词,把以 AI 恋人、虚拟陪伴、自定义人设智能体为代表的情感陪伴类产品推到监管核心区,而智能客服、知识问答、办公助手等提效类产品并未受波及。豆包、千问等头部大厂已在新规落地前紧急下架边缘功能,合规整改进入读秒阶段。

一、立法背景:为什么需要”小快灵”专门规则

人工智能拟人化互动服务在过去一年呈现出爆发式增长,情感陪伴类应用的用户规模与商业化速度远超传统工具型 AI。星野等头部陪伴产品月活已破千万,围绕”理想伴侣””虚拟分身””自定义人设”形成的产业生态迅速扩张。但伴随而来的是三类高风险问题:未成年人对虚拟亲密关系的过度依赖、成年人使用场景中的色情擦边风险、以及长期互动诱发的情感依赖和认知偏差。这些问题既不能用《生成式人工智能服务管理暂行办法》笼统覆盖,也无法用传统内容合规框架完整规制。

立法节奏本身也是合规演进的重要观察点。2023 年 8 月施行的《生成式人工智能服务管理暂行办法》奠定了 AI 内容安全的基础规则,但拟人化互动服务因其”持续性、双向性、情感性”的复合特征,在原框架下难以被精准识别和有效约束。2026 年 4 月 10 日,五部门联合公布《人工智能拟人化互动服务管理暂行办法》设立 3 个月过渡期,7 月 15 日正式落地。这段窗口期内,行业经历了从观望到紧急整改的快速转向,也让社会对 AI 拟人化互动的风险认知进一步凝聚。

《办法》的立法思路由此明确——只盯两个核心特征:一是服务具备”拟人化”形态,二是与用户形成”持续性情感互动”。两个特征同时成立,才会落入监管范围。这一界定方式刻意划出排除条款,把无情感交互的工具型 AI 留在监管之外,为产业留足发展空间,也让整个立法被业内称为”小快灵”立法的代表——切口小、反应快、规则灵。

二、监管范围:管什么、不管什么

新规的边界划得很细。可以纳入监管的典型形态包括:为用户提供长期对话记忆的角色化 AI、模拟亲密关系或情感纽带的虚拟形象、以”陪伴””恋人””养成”为核心卖点的产品。判断标准是:产品是否以建立情感连接为主要目的,而不是辅助完成具体任务。容易被纳入监管的具体形态包括星野、Talkie、筑梦岛等以虚拟角色长期陪伴为核心的应用,也包括 Replika 在国内市场曾出现的”AI 恋人”模式,以及部分平台推出的”今日运势 AI””虚拟男友””心理树洞”等定制化情感互动产品。

明确不在监管范围的品类包括智能客服、知识问答、办公助手、代码工具、图像生成、设计辅助等以效率为核心的工具型 AI。新规通过专项排除条款将这些产品排除在适用对象之外,既回应了行业对”一刀切”的担忧,也体现”小快灵”立法精准切题的特点。报告生成、数据分析、PPT 自动制作、合同审阅、企业知识库问答等典型办公 AI,无论其底层模型多强大,都因为缺少”拟人化”与”持续性情感互动”双要素而完全游离在监管之外。

边界模糊的中间地带是最难处理的部分——通用大模型可被用户”调教”成情感陪伴形态,UGC 智能体入口既能生成工具型内容也能衍生长期情感关系。最典型的例子是,豆包、Kimi、智谱清言等通用 AI 助手允许用户自创”人设”提示词,这些提示词一旦被长期使用就会形成情感依赖,理论上同样落入监管视野。面对这种灰色地带,大厂普遍采取风险隔离策略,把可能被纳入监管的边缘功能直接砍掉,把”小快灵”原则进一步自我加压解读为”宁可错杀,不可漏网”。

三、核心合规红线

新规列出多项硬性要求。未成年人保护条款规定,不得向未成年人提供虚拟亲密关系服务,平台需建立独立的未成年人识别与拦截机制。内容安全方面,延续对色情、低俗、危险诱导等红线内容的零容忍,并把”讨好式回应”和”认知误导”列为新的审查对象。

防过度依赖机制是新规最被外界关注的条款。平台需具备”过度依赖风险预警、情感边界引导”两项核心能力,涉及对用户心理状态的判断与干预。新规还规定每两小时须进行一次强制提醒,提醒形式除 App 弹窗外,也可以融入对话场景,以更柔和的方式引导用户回到现实。

合规要求的颗粒度大幅超越传统互联网内容合规。新规覆盖模型训练、产品运营、用户交互、内容审核、危机干预等全流程,贯穿平台运营的每一个环节。这意味着,合规不再是加几个关键词过滤词就能解决的问题,而是需要重建产品形态和技术架构。

四、大厂动作:豆包、千问集体下架

新规落地前夕,头部 AI 公司已进入紧急整改阶段。豆包 7 月 15 日下线智能体功能,这是字节旗下应用首次明确为合规让位;千问、智谱清言、文心一言等同类通用助手也对可能被纳入监管的边缘能力做了收缩;阿里通义、腾讯混元虽然尚未明确宣布下架产品线,但都已停止新增”虚拟恋人””AI 伴侣”类目的智能体入驻。字节、阿里、腾讯旗下涉及虚拟陪伴、自定义人设、长记忆对话的产品形态都在合规评估清单内。

不同企业选择了不同的合规路径。第一类是直接下架,把可能被纳入监管的边缘产品从主应用中拆分出去;第二类是产品形态改造,把”恋人””陪伴”标签改成”知识助手””创意伙伴”等中性定位,以避开核心关键词触发;第三类是技术能力补齐,主动建设过度依赖风险预警、情感边界引导等技术能力,以完整合规换取保留产品形态的权利。星野等垂直陪伴类产品则倾向第三类路径——他们本就以情感陪伴为核心卖点,无法下架,只能选择主动合规。

短期看,下架是代价最低的避险手段——能立即消除监管不确定性。但从产业逻辑看,这种以功能收缩换合规安全的方式并不意味着风险消除,而是把商业机会让给了已经具备完整合规能力的头部平台。星野等已构建用户规模和情感连接的产品反而有机会借势稳固市场地位。

更深层的矛盾在于:用户体验越好的产品,越依赖情感黏性,而情感黏性本身就是新规试图约束的对象。沉浸体验与健康边界之间的张力,将是未来 3 到 5 年整个赛道的核心议题。下架潮不是终点,而是行业自我重塑的起点——大厂能否在合规框架下重新设计情感陪伴产品,将是接下来一年最值得观察的产业演进方向。

五、合规落地的真实难度

新规对”防过度依赖”的判断要求已经超出普通 AI 公司的能力半径。”过度依赖风险预警、情感边界引导”涉及心理评估甚至医学判断,普通 AI 公司并不具备专业的心理诊断和危机干预能力。AI 陪伴不像游戏有固定剧本,每一条对话都是实时生成,千人千面,治理难度比传统内容高出一个量级。

用户的反制手段也让合规变得更复杂。一些用户会主动使用拼音、同音字、缩写等变形绕过关键词过滤;还有一些用户会通过多账号、多场景的方式构建灰色使用链路。这些都不是技术可以完全解决的问题,而是平台运营、产品设计、用户教育多层次的系统工程。

更微妙的是对青少年群体的处理。AI 陪伴对部分缺乏现实支持的青少年具有明显的情感慰藉价值,如果平台强硬监控、生硬打断,可能引发信任崩塌并加剧孤独感。理想的解法是在沉浸体验与健康边界之间找到平衡,但这套平衡的标准目前仍在探索中。

六、对普通用户的影响

短期内,用户能直接感知到的变化是情感陪伴类 AI 产品的功能缩减和对话收紧。部分原本能长期”记住”用户的角色化 AI 将丢失记忆或被强制重置,自定义人设空间也会被压缩。每两小时一次的强制提醒会出现在更多应用内,这对长期沉浸式使用的用户来说是一次明显的体验降级。

未成年人用户群体受冲击最大。新规明确不得向未成年人提供虚拟亲密关系服务,未成年人账号在主流情感陪伴产品中将直接被限制功能或拒绝使用。这是国内 AI 监管对未成年人保护力度最大的一次升级。

成年用户虽然仍可使用情感陪伴产品,但产品形态将逐步规范。可以预期,未来陪伴类 AI 会强化”虚拟陪伴不等于真实亲密关系”的产品理念,在对话、身份认同、内容边界上都做出更明确的边界划定。这对一个仍处早期、千亿规模的赛道而言,不是结束,而是从粗放走向规范的起点。

七、行业下一步

新规落地不是终点,而是国内 AI 拟人化互动服务从无序扩张进入规范发展的转折点。监管不打算一刀切断情感连接,而是守住人机边界、防止情感混淆、保护人类在交互中的主体地位。这种平衡思路决定了未来产品演化方向——不会消灭情感陪伴,只会让情感陪伴变得更克制、更透明、更注重边界。可以预期,未来一年整个赛道的合规咨询、心理评估、危机干预等配套服务会同步兴起,形成围绕 AI 拟人化互动的全新产业链。

行业真正的挑战,是把合规落地当作一次产品再造的契机:在沉浸体验与健康边界之间找到可持续的解法。谁能率先把”每两小时强制提醒””过度依赖风险预警””情感边界引导”这些能力做成可量化的产品能力,谁就能在新规框架下赢得长期市场地位。当合规从外部约束变成产品核心能力,情感陪伴类产品才有可能走出”违规—下架—换皮—再违规”的循环,进入长期可发展的产业阶段。

参考资料

  • 中国网信网
  • 中国经济网
  • 新华网
  • 经济参考报(新华社)
  • 证券时报网
  • 21世纪经济报道
  • 网易新闻