别想用软色情做智能体的跳板

出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国

本文系 #ESG进步观察#系列第169篇
本期关键词：供应链治理、别想板AI合规、用软智能体生态

近日，色情字节跳动的做智“豆包”与阿里的“千问”几乎同步宣布下线其智能体（Agent）功能。

据公开信息显示，别想板豆包将相关功能剥离至独立产品“猫箱”中继续运营；而千问则采取了更为彻底的用软策略，直接关闭功能且未提供迁移路径。色情

两家头部大厂不仅在处置逻辑上高度相似，做智更在时间节点上精准卡位——均选择在7月15日《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行前夕完成调整。别想板该《办法》明确要求，用软针对虚拟恋人、色情深度角色扮演及情感依附类AI，做智必须设立严格的别想板约束机制。

因此，用软此次大厂“砍掉”的色情并非问答、办公、搜索、代码生成或工作流等通用AI能力，而是过去一两年间迅速膨胀的关系型智能体：包括用户自建人设、角色扮演、虚拟恋人、情感陪伴以及公开分发的智能体广场。

核心结论：智能体赛道并未整体退潮，退潮的是由低门槛UGC（用户生成内容）、情绪依赖和灰色亲密互动所支撑的那部分虚假繁荣。

在新规落地后，智能体赛道预计将发生显著分流：任务型智能体将持续演进，关系型智能体将进入强合规时代，而带有情感陪伴属性的AI“情趣”硬件大概率将被阻断在主流市场之外。

大厂切割“关系型智能体”的底层逻辑

豆包与千问的动作中，最值得关注的并非“下线”本身，而是“下线了什么”以及“如何下线”。

从平台策略来看，豆包并未放弃大模型主产品或AI助手的核心地位，而是选择将高风险的互动功能从主App中剥离，仅在独立产品中存续。这一举措信号明确：主App需继续承担大众效率工具、搜索入口及AI助手的公共角色，而情感互动、角色扮演、用户生成智能体等高敏感功能，则被移入“隔离区”。

千问的处理方式则更为决绝：直接关闭且无迁移路径。这表明平台对该业务的评估更为冷静——当一个非核心功能带来的审核成本、监管压力及舆论风险远超其业务收益时，“关停”是最优解。

尽管手段不同，两家大厂的底层逻辑一致：关系型智能体在大厂主入口中的定位发生了根本性转变。过去，它是提升互动率、用户时长和参与度的利器；现在，它已转化为高风险资产。

一个值得深思的问题是：为何受冲击的是豆包、千问，而WorkBuddy等办公类产品却相对平稳？

答案在于产品属性的差异。

WorkBuddy等偏办公、企业协作、工作流的智能体，处理的是任务：文档撰写、会议纪要、流程调用、数据分析。其风险主要集中于数据权限、企业信息安全、输出准确性及流程责任。

相比之下，关系型智能体处理的是人与拟人对象之间的关系。用户可以低成本创建“AI女友”“AI男友”“病娇妹妹”或“霸总伴侣”，若平台再辅以智能体广场、推荐算法和分享机制，产品性质便从“工具”异化为“拟人化内容平台”，风险随之呈指数级放大。

三大风险维度

1. UGC失控风险
   用户可低成本创建人设、设定语气、关系、头像及开场白并公开发布。供给越丰富，审核压力越大。此前上海累计下架1.4万个违规智能体便是警示：缺乏管制的开放生态极易滋生擦边内容、侵权人设、真人仿冒及低俗互动。

2. 关系依赖风险
   普通问答助手“用完即走”，而关系型智能体具备持续记忆、主动关怀、使用亲密称呼及模拟陪伴关系的能力。用户投入越深，产品留存越强，付费转化越容易。但在未成年人、心理脆弱人群及孤独老人等场景中，这种黏性极易越过安全边界，造成心理伤害。

3. 平台分发责任
   用户自建自用智能体的风险半径有限；一旦进入智能体广场、排行榜、搜索页和推荐流，平台便参与了风险的放大。此时再以“用户自建”为由推卸责任，已显得苍白无力。

对于豆包、千问这类拥有巨大流量的入口而言，其品牌基石是“干净、可信、普适”。若主App中混入大量虚拟恋人、暧昧陪伴、侵权角色及擦边人设，一旦截图传播，将严重损害产品的公共信任。

因此，豆包和千问的下架动作，本质上是停止为非核心场景承担额外风险。大厂已开始对关系型智能体进行重新定价。

新规将监管边界延伸至产品形态

新规的真正杀伤力，在于其未止步于“内容审核”，而是将监管边界延伸至服务定义和产品形态。

《人工智能拟人化互动服务管理暂行办法》第八条明确指出：禁止生成、提供淫秽色情、亲密性模拟交互内容或硬件功能。这条规则直击“拟人化关系商业化”的灰色地带。

过去，许多AI陪伴产品以“情感”“陪护”“孤独经济”为包装，表面提供倾诉与安慰，实则依靠暧昧部分（如亲密称呼、恋爱角色、暧昧对话）实现增长。用户投入越深，停留越久；关系越强，付费越容易。

关系型智能体将AI从“工具”转化为“关系对象”，将一次性使用转化为持续性陪伴。会员、角色权益、高级模型、道具、订阅等商业模式，均可挂载于这条关系链上。

问题核心在于：当产品利用孤独、亲密需求及情绪脆弱性来提升留存和付费时，监管焦点便从“模型是否说错话”转向“平台是否制造依赖”。若叠加未成年人保护、诱导消费、色情暗示、侵权人设及心理疏导越界等风险，风险等级将急剧上升。

因此，新规划定的边界可概括为：
* 情感陪护可以做，但将陪护关系性化不行；
* 拟人化交互可以做，但用拟人化关系导向情欲消费不行。

硬件厂商面临更大压力

许多硬件从业者曾误判，认为拟人化互动监管主要影响聊天App、智能体平台及虚拟陪伴软件。但新规覆盖的是“拟人化互动服务”，任何搭载语音陪伴、主动关怀、仿人外观的硬件，均可能进入监管视野。

特别是AI陪护机器人、AI宠物、AI玩具及老人陪伴终端。这些产品天然强调陪伴感，为提高黏性，厂商常设计专属称呼、情绪识别、主动问候、记忆偏好、拟人语气甚至肢体动作。这些设计本身虽不必然违规，但边界极为敏感：

• 儿童场景：涉及未成年人保护、防沉迷、价值观引导及诱导消费。
• 老人场景：涉及认知能力下降、健康建议误导及诈骗风险。

只要厂商宣传提供“陪护”“心理疏导”或“情绪安抚”，便不能简单将自己定义为“卖硬件”。

更高风险的是“情感陪伴AI + 性交互硬件”。

成人硬件行业长期存在痛点：一次性消费多、持续留存弱、用户关系浅。AI为其提供了新想象空间：赋予硬件人格、记忆和情绪回应，将工具变为“伴侣”，并通过订阅、内容及互动脚本实现持续变现。

新规直接堵死了这条路。

一款产品若同时具备AI情感陪伴、长期人格记忆、情欲互动算法、仿真性结构或模拟性行为机械结构，便难以再被解释为普通成人用品或普通陪护设备。其风险不再仅是模型偶尔越界，而是产品设计目标本身踩线。新规施行后，此类产品在安全评估、上市销售及渠道合规上将遭遇实质性障碍。

软件产品出问题，可通过下线入口、调整模型、增加过滤或修改提示词来补救；硬件一旦开模、生产、铺货并上市，整改成本极高。若产品形态已固化亲密模拟结构，合规风险便随之固化。

因此，AI硬件从业者的压力源于一个更前置的问题：产品定义能否经得起审查。

• 你是生活辅助设备，还是虚拟伴侣？
• 你是老人照护终端，还是借陪护之名包装亲密互动？
• 你是情绪支持工具，还是通过人格化关系推动情欲消费？

这些问题若回答不清，产品难以行稳致远。

智能体赛道开始分流

一个明确的判断是：智能体行业不会整体降温，但将呈现明显的分层趋势。

第一类：任务型智能体加速发展

办公助手、企业知识库、代码智能体、客服助手、会议纪要、数据分析助手及流程自动化Agent，解决的是明确任务。其价值可通过效率、成本、准确率、响应速度及流程节省来量化。

这类产品的合规重点在于数据安全、权限控制、企业审计及输出责任。它们不主动制造亲密关系，也不依赖用户情绪黏性变现。WorkBuddy等产品的平稳表现，正源于此。

它们有风险，但风险类型清晰；治理重点是“组织如何安全使用AI”，而非“用户是否对虚拟人格产生依赖”。

第二类：关系型智能体进入强合规时代

AI恋人、虚拟男友/女友、情绪陪伴、角色扮演、用户自建智能体及智能体广场，不会因新规直接消失。陪伴、倾诉、孤独缓解、养老辅助及心理支持，均为真实需求，AI在这些场景中也具备价值。

但过去的玩法已行不通。

开放UGC、擦边人设、低成本角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖，这条链路将越来越难走。平台必须补齐年龄分级、防沉迷、未成年人保护、内容审核、真人仿冒治理、角色版权审核、风险提示、诱导消费限制及情感依赖边界管理等短板。

这些措施都将转化为显性成本。

过去，一个小团队接入模型API，制作角色模板，加上广场和分享机制，即可快速跑通陪伴产品。在合规成本未显性化时，增长故事易于讲述。一旦审核、投诉、版权、未成年人保护及心理风险干预成为硬成本，许多产品的商业模型将被重构。

关系型智能体仍有空间，但将从“野放式增长”转向“强边界运营”。最终留下的，不会是擅长撩拨情绪的团队，而是能将场景、责任与风险讲清楚的团队。

第三类：“拟人化AI + 情欲硬件”被挤出主流

此类产品的问题最为尖锐。聊天产品偶发越界尚可补救，而硬件产品若将仿真结构、亲密模拟、情欲算法与AI人格绑定，便已完成高风险产品闭环。

新规拆除了大量灰色包装：
* 你不能一边宣称养老陪护、心理疏导、日常陪伴，一边设计情欲互动算法和性交互硬件；
* 你不能一边享受拟人化关系带来的高黏性，一边将风险隐藏在“成人自愿使用”的叙事中。

这必将引发一轮行业出清。短期内，平台将收缩智能体业务，清理敏感角色，降低情感陪伴功能在主App中的权重；AI陪伴产品将强化分级、审核及提示；部分AI硬件项目将推迟上市，重新评估外观、交互和功能边界。

长期来看，智能体行业将回归更清晰的价值框架：
* 能提高效率的，继续做；
* 能提供照护的，规范做；
* 依赖擦边和情欲变现的，退出。

这也是豆包、千问此次动作给行业发出的最大信号。

它们并未否定AI应用，也未否定智能体方向。它们只是通过产品调整向行业宣告：关系型智能体不能再无差别地塞进主入口，平台不能继续将高风险互动视为低成本增长工具。

AI行业进入新阶段后，竞争不再仅看模型能力、入口流量和交互体验，更取决于合规能力、风控体系和社会信任。

过去，智能体被想象为“什么都能扮演、什么关系都能模拟”的万能入口。新规之后，这一想象必须重写。所谓“智能体告别野蛮生长”，归根结底，是行业开始为产品边界、用户脆弱性和商业模式支付应有的代价。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4872727.html?f=wyxwapp