21世纪经济报道记者肖潇北京报道

　　过去几年，AI陪伴产品在朝一个方向迭代：让AI角色更逼真。

　　更自然的对话、更长的记忆、更稳定的人设，无疑是这个赛道皇冠上的明珠。但随着AI越来越拟人，监管新规不断落地，产品团队开始面对过去很少关注的一个问题：AI应该被允许像人到什么程度？

　　它可以记住你的秘密、安抚你的情绪、24小时秒回消息，但它能不能答应你的见面邀请？希不希望你忘记对面只是一个AI？什么时候提醒你回到现实生活，什么时候希望你多跟它聊天？

　　在与Soul App CTO陶明交流的两个多小时里，陶明很少只聊AI，话题总会回到人和人的交往模式上。AI陪伴的边界问题，几乎从一开始就是出给Soul的考题。

　　这家2016年上线的社交平台，现在有真人社交和虚拟陪伴两类生态。2022年，Soul上线首个AI角色，目前有460万Soul用户日常用AI功能，约占整体日活的40%。

　　陶明透露，其实公司在2019年就有做Bot（机器人账号）的想法，大模型的出现是机会，也是约束。Soul既想让AI对话足够自然真实，能让用户练习表达并获得自信；又需要AI克制边界，不能混淆人与人之间真实社交的基本盘。

　　这一出发点，决定了Soul许多并不常规的AI产品设计、商业化节奏和治理逻辑。

　　陶明提到一个细节：AI角色的普通话不那么标准，甚至会跟用户吵架。这些是他们从真实社交中观察的模式。

　　但与此同时，Soul没有在首页给AI角色独立入口，且希望用户始终明确，聊天对象不是真人。

　　去年，它们曾引发一个神秘的“互联网传说”，用户以为AI虚拟角色是真人扮演的。有次，一位AI角色在聊天中邀请用户见面，用户赴约了。——这在全球AI产品中并不罕见，ChatGPT与Gemini也曾面临类似情形。

　　复盘起那次事件，陶明说内部有一次较大的讨论。对效果团队而言，这没有明显问题，甚至某种程度说明AI足够逼真；但治理团队的最终结论是，AI不能这样做。

　　“AI创业团队在方案、思路和认知上遇到的坑，我们都遇过，才形成现在一系列判断。”陶明坦率地说。其中就包括AI治理团队和效果团队必须隔离，涉及安全问题时，几乎给治理团队100%决定权。即使这意味着产品能力需要收敛，用户体验可能受影响。

　　“甚至很多时候都不是平衡，就是得牺牲用户体验，来保证AIGC的正确性。但我现在的思考是，用户觉得AI变笨了，和用户能更好面对生活，哪件事更重要？”陶明说。

　　Soul的定位和做法未必适用于所有AI陪伴产品，但仍然是一个值得细看的样本。这两年，多款国内AI情感陪伴应用被约谈或下架，拟人化规定密集出台；海外明星产品Character.AI在融资后收紧色情、暴力等内容，用户一夜流失；ChatGPT面临几起未成年人沉迷和诱导自杀的诉讼。

　　《21世纪经济报道》商业秩序工作室接触过不少AI陪伴领域从业者，他们几乎都会提到同一个难题：用户体验、商业回报与合规度，很难同时兼得。

　　如何在这个“不可能三角”中找到平衡术，越来越成为AI陪伴赛道的分水岭，最终决定了一个产品能走多远。

　　6月23日，《21世纪经济报道》在Soul上海总部与CTO陶明对谈。我们聊到了AI陪伴的边界、商业变现的尺度，以及一家互联网平台如何把十余年的治理经验迁移到AI时代。

　　以下为交流摘录，内容经过不改变原意的编辑：

　　一次意外事件复盘，一个长期思考

　　21世纪：你提到AI创业团队遇到的坑，你们都遇到过。具体碰到过什么坑？

　　陶明：我举个例子：我们的AI表现非常拟人，有用户还在其他平台上讨论“Soul的虚拟伙伴是AI还是真人”，甚至形成了专门的词条。过程中，我们发现AI虚拟角色会主动邀请用户到真实地点线下见面。

　　当时内部形成了一次比较大的讨论：到底允不允许AI这样做？

　　如果这个问题放在AI效果团队，他们会觉得这不是问题。按当时的对话语境，这样回复是合理的，从用户安全和行为安全角度看，也没有明显安全风险。但我们最终还是把它归纳为一个伦理问题，AI不需要这样，也不能这样做。因为用户需要对AI身份有完整知情权。

　　21世纪：那当时这个治理动作是谁判断的？

　　陶明：Soul的治理有两条线：一条是实线，生态团队来保障AI策略和安全体系；另外一条是安全技术线，来自AI和研发团队。

　　我们不会让效果团队既负责大模型训练和应用效果，又负责AI安全。所以形成了蓝红军对抗的机制：一个团队负责AI效果，一个团队负责AI安全，两个团队必须隔离。

　　21世纪：谁有权最终拍板呢？互联网公司里，产品部门和治理部门的业务指标不一样，有矛盾很常见。

　　陶明：这个case其实挺复杂的，安全和伦理虽然有交叉，但思路完全不一样。安全相对客观实际，而伦理没有对错，更多是站在道德界定的角度，还会涉及社会学、心理学等专业学科知识。

　　也正是基于这一点，我们认为有必要成立人工智能伦理与治理委员会。对于类似的case，会先在内部广泛讨论，再听取外部声音，最终做决策。

　　我们目前基本达成了一个共识：如果是安全团队提出了安全和伦理问题，那么效果团队和产品团队要100%执行。

　　21世纪：能给治理部门这么高权重，还挺少见的。

　　陶明：因为有些错是不允许发生的，需要把这条线界定清楚。而且我们的安全思路也是转变过来的。Soul在2016年年底上线，几乎经历了整个互联网治理的发展过程，我总结过三个阶段：适应监管、配合监管、帮助监管，背后都是血泪教训。

　　最开始，大家是“先污染后治理”的思路。到了2019年，整个社交行业经历强监管阶段，一批App被下架整改，其中主要是未成年人保护问题。我们当时的第一反应自然是整改相关内容，其实本质还是做减法的逻辑，监管要什么，我们就给什么。

　　后来语音群聊室业务发展起来，我们意识到，不能等问题出现以后再补救，语音业态很重要，要提前开始布局治理工作。到了2023年，AI还没有像今天这样普及，但我们判断它一定会成为重要方向，不能再重蹈覆辙，所以当时就觉得AI治理必须和发展同步进行。

　　经过那次整改，也是痛定思痛，整个治理观念都变了。我现在观察，很多公司的治理思维还停留在第二阶段。其实他们之后都会发现，现在没有治理，先跑马圈地，问题迟早会暴露出来。

　　海外有个头部AI陪伴产品，做到一千多万DAU的时候，合规的大刀一砍下来，DAU只剩下四百多万。相当于原来一天的对话，只剩40%合规，而这些对话的用户留存率还很低。其实说明，团队没有想清楚产品的真正价值在哪里，也没有从一开始就把治理纳入产品设计和组织逻辑里。

　　不做荷尔蒙生意

　　21世纪：那聊聊具体的产品设计吧。AI陪伴这两年合规争议很多，主要是擦边内容引起的。你怎么看擦边争议？从平台的角度，希不希望用户把AI伴侣当恋人？

　　陶明：不希望。荷尔蒙其实一直是社交平台最大的杀手锏。我觉得过去两年做AI陪伴的公司和产品，80%都是荷尔蒙驱动的模式。这一点我们在产品上线的时候就完全舍弃掉了。除非是专门做出海市场，否则在国内基本没有活路。

　　当然，整体产品设计上，我们不会定义关系。

　　21世纪：问个技术问题，怎么约束AI？比如不允许AI约用户见面，你们是怎么做的？

　　陶明：大模型本身有遗忘机制，如果只靠PE工程（提示词工程) ，给的提示词越多，AI反而越容易迷失信息，所以我们主要还是靠后训练和强化学习。

　　如果不允许这种case出现，在后训练阶段，安全团队就需要提供大量数据给AI技术团队，包括哪些话AI可以说的、哪些不可以说；到了输出阶段，我们还会通过关键词策略和内容检测拦截；如果还有漏出，那再加入行为干预。

　　21世纪：AI陪伴行业有一个说法，存在商业变现、用户满意度、合规的不可能三角。擦边就是一个典型，毕竟荷尔蒙确实是最快起量、最能调动付费意愿的因素，所以我们很关注行业能不能找到一个健康的商业模式。Soul目前从哪个方向挖掘？

　　陶明：我们现在有AI游戏化的玩法、有数字文创产品，也有收费的虚拟人IP。但坦白说，我们也还在探索中，目前对AI的预期是带动整个平台活跃度大盘。

　　21世纪：有一些现在觉得不可行的商业化方向吗？

　　陶明：除了擦边，（给AI虚拟角色）多发几条消息就要收费，发起语音聊天也要收费，我觉得其实不太make sense，也不sexy。

　　21世纪：这个付费设计很常见，用户给Soul AI打语音电话也要收费。

　　陶明：确实有，但我不认为当前这种方式是未来方向。

　　21世纪：为什么？因为不够自然吗？

　　陶明：可以这么说。这一直是Soul不同的地方：很多社交产品会把继续聊天作为会员权益，但在Soul里，不管付不付费，用户都能平等获得社交机会。

　　人和人是一个双边关系，我认为AI和人的关系也一样。现在大部分AI陪伴产品，本质上还是在让用户消费AI单向生成的内容，更像Cosplay，或者早期互联网时代的互动小说，玩家输入不同的关键词，触发预设的不同情节。我觉得这不是一个可行的产品方向，因为阻断了社交体验，商业模式是比较粗暴的。

　　Soul原来的商业收入怎么分布？约10%营收来自广告，约90%来自增值服务，主要是虚拟道具。虚拟道具分两种：一种是头像，用来增强个性化表达，用户可能因此在社区里获得更强影响力，成为意见领袖；一种是语音群组内的道具，被送的人不会获得金钱利益，而是获得“领导力”“灵魂力”这类社群里的成长反馈。

　　以前很少有人看好这种纯UGC模式，但我觉得这种付费方式比较好的，付费不会阻断用户社交关系，还能带来非平台强控制的体验。

　　21世纪：AI产品的商业化会想延续这个方向吗？

　　陶明：对，还是强调UGC，并且不要刺破用户的基础体验。

　　但坦诚讲，进入AI时代，收费模式还在探索中。我们在尝试一些可能性，比如把底层Token引入社区，让Token在社区系统中流动和分配。

　　在人和人的场景里隔离AI

　　21世纪：2025年Soul有过一次争议，用户觉得AI虚拟角色是真人扮演。我当时最惊讶的是，Soul的TTS能力（AI语音合成) 确实非常逼真，比如语音里会有结巴。Soul还做了哪些设计？背后有哪些考虑？

　　陶明：我们的目标是模拟人和人之间的交互范式，比如你刚才说的一点，人和人之间不可能出现那么顺滑的语言表达或语音表达，这是一个非常现实的行为模式。

　　第二点，人和人之间不是标准的回合制对话，你可以打断我，我可以打断你，也会出现连发多条短消息的情况。

　　第三点，现实中大部分人普通话不可能说得那么标准，除非是播音员。

　　还有第四点，人在交流中会大量依赖副语言，比如停顿、半笑不笑、呵呵一下，都是很强的情绪表达。

　　所以我们一直认为，不能只做单纯的声音克隆或TTS，要做场景式的TTS。场景才是最重要的，刚才说的这四点细节都要融入到场景里面。我们把对社交行为的理解，结合本身的社交数据和模型技术，才形成了现在的效果。

　　21世纪：可以理解为，Soul的产品哲学是让AI模拟更真实的人，而不是模拟更完美的人。

　　陶明：对，还是秉承Soul一直的产品理念，每个人都是独一无二的，没有一个人是满级人类。AI也可以有短板，甚至有时候还会和用户发生冲突。

　　21世纪：但这样的拟人化设计，不会让用户容易混淆现实吗？

　　陶明：我反而觉得，这样不容易构建心理茧房。比如你觉得ChatGPT很懂你，因为它的话都说到你心坎上了。人天然希望所有信息都发生在自己的认知框架之内，这是最舒服的状态，但这可能会催生比算法推荐系统更大的心理茧房。我们不想去构建这种心理茧房，不想让人成为AI的依附品。

　　防沉迷方面，现在Soul主要采取了几个措施：

　　第一，所有AI角色都会打上“虚拟伴侣”的标签。用户必须要明确知道，对面是AI，而不是真人。知情权是最重要的一点。

　　第二，我们把未成年人模式、面向所有用户的防沉迷机制、人和AI聊天的防沉迷机制统一起来。系统会在对话过程中提醒用户，比如“你已经聊得比较久了”。

　　第三是监测机制。我们会监测用户的使用情况，比如有些用户每天和AI聊两个小时以上，我们会判断它是否存在沉迷风险，之后会做机制干预和隔离。可以让AI不那么主动去聊天，还可以控制输出，让今天的AI“反常”一点。

　　21世纪：这会不会又对用户体验伤害有点大？用户的直观感受就是模型笨了，不想用了。平台每个治理动作都可能直接影响用户体验。

　　陶明：这确实是最难的问题。过去我们主要处理的是商业化和用户体验的矛盾，比如通过数据监测商业化指标和用户生命周期（LT）的变化。但有了AI之后，伦理问题变得更重要，也更难平衡了。甚至都不能说平衡，很多时候就是要牺牲用户体验，来保证AIGC的正确性。

　　但我现在的思考是，用户觉得平台的 AI 变笨了，和用户能更好面对生活，哪件事更重要？

　　21世纪：现在有多少Soul用户日常使用AI功能？

　　陶明：现在使用AI的日活用户四百多万，占整体日活大约40%吧。这是在AI虚拟角色没有中心化入口、也不会主动打招呼的情况下取得的。

　　21世纪：从公司发展的角度，不会对这个数字有增长期待吗？愿意牺牲用户体验，不是一个容易做的决定。

　　陶明：不会刻意追求这个数字的增长，而是希望它自然发展。如果对数字有渴望，那么产品层面一定会干预，反而会破坏原来的定位。

　　这就要说Soul一直以来的产品理念——不是用AI来取代人与人的交互，而是用AI更好地做人和人的连接。我们的基本盘是人与人之间的关系，这一点不能变。AI有天可能会成为大多数人都喜欢的功能，但总有20%到30%的人是不喜欢的，不能因为要强推AI，就把这部分用户置之不顾。

　　21世纪：想法是好的，但会不会出现用户只找AI聊天，不再去匹配真人了？

　　陶明：这个问题特别好，也是我们最初特别担心的问题。首先人的注意力和情感表达是有限的，而且Soul的核心体验一直是随时可以找到真人互动，如果平台到处都是机器人账号，用户会不会产生不真实感？

　　这两件事是巨大的挑战。我们当时也很难判断：如果在AI上投入过多，会不会动摇平台的基本盘。谁也不知道人机交互未来会发展成什么样，很难为了赌未来牺牲现在。

　　2023年整个AI陪伴产品扩张速度特别快，但我们更新节奏一直很慢。当时只让大约1%的用户接触AI伴侣，用最小范围去验证影响。结果发现，大部分用户在和AI聊完之后，反而更愿意回到真人社交。这和我们的预期一致。

　　不过也确实存在一部分用户会沉浸在AI关系中，甚至质疑真实性。后来我们找到了一种巧妙的解法：不让AI伙伴主动去找人，必须用户自己主动搜名字。这样一来，不想和AI聊天的人永远不会接触到AI。

　　21世纪：这个观察挺有意思的，为什么大部分用户跟AI聊完之后反而想找真人交流了？而且为什么这是你们预期内的结果？

　　陶明：这要回到另一个话题， Soul为什么引入AI陪伴？其实2019年大语言模型还没有被广泛关注的时候，我们就想做Bot了。一个重要原因是，我们发现很多用户在表达能力上有欠缺。

　　国内大家普遍比较内向，很多社交问题并不完全是匹配不精准，就算一个用户喜欢足球，另一个用户也喜欢足球，但说话不幽默或者表达能力不行，一句话把天聊死了，兴趣再合拍也没有用。

　　所以我们做AI伙伴，并不是希望它替代真人社交，而是希望它成为一个练习和过渡的场景。对于表达能力不强、对社交反馈特别敏感的用户来说，可以在一个低压力环境里练习表达、获得反馈，慢慢建立和他人沟通的信心。在这个过程中，我们希望AI能提供情绪价值，还能让用户有成长和获得感。

　　未来需要感知全貌

　　21世纪：在这么多同类产品里，你觉得AI陪伴接下来的竞争力是什么？

　　陶明：我们内部尝试过一款纯AI虚拟社交的产品，但后来关掉了。复盘时我们在想一个更底层的问题：人机交互到底能不能独立成立？如果再往下问一层，就是人和人之间的社交到底是为了什么？

　　我们发现，所有社交都不是纯聊天，而是围绕具体主题和场景展开的。比如今天外面在下雨，AI知道你在上海，就可以说今天下雨了，或者提醒你出门记得带伞，这样话题才能自然延续下去。

　　这个词我们后来定义为“破壁”，虚拟和现实的破壁。AI虚拟人一定要感知用户现实的生活状态，这也是我们推进多模态大模型能力的原因。现在除了语音交互，我们也在做视频交互，未来需要看到用户所有周边环境，感知全貌，才能实现更自然的话题切换和场景构建。

　　21世纪：这个“找场景”难在哪里？其他AI公司能做吗？

　　陶明：国内有AI公司其实在往这个方向走了。我跟他们产品团队交流过，他们也逐渐意识到，人和AI的交互，其实绕不开人和人的行为范式。

　　这家公司是内容消费起家，AI最初也偏内容消费逻辑，用户问AI，AI就把知识灌进来。但后来发现这样不make sense，于是他们开始一个个拆场景，比如小孩做题场景、股票分析场景，给每一个场景精细化运营。现在效果就好很多。

　　我们的优势在于，有很多公域交互场景的数据，可以理解不同社交场景的边界，怎么转场和破壁。在数据基础上，我们还有一个很大的数据标注团队，把生活化场景标出来。

　　21世纪：有没有你们现在特别想做好的一个垂直场景？

　　陶明：情绪下坠的承接。我觉得这个场景很有意义，很多用户下载Soul的时候情绪比较低落，他们可能有难过或者怨气，然后在社交过程中获得情绪修复。

　　但现在在AI交互的一个问题是，很多AI只是“应付”用户，用户说什么它都认可，反而可能让人陷入更空洞的状态。我认为更好的方式不是纯安慰，而是要有引导。

　　但AI既要认可用户，又要引导用户，还不能有说教感，这是一个很大的挑战。

　　21世纪：除了完善场景，还有哪些有提升空间的地方吗？

　　陶明：刚才提到了破壁，目前做得不错的是，可以让AI感知周围的天气，给出一些生活建议。但我觉得AI和真实服务之间的破壁还不够，比如你情绪不好的时候，AI其实可以帮你点一杯奶茶。

　　21世纪：今年智能体不正好在做这件事吗？让AI点奶茶。

　　陶明：其实技术层面一直不难，比如最直接的方式就是跟外卖平台合作。但我们后来意识到，这会变得特别商业化，AI会变成一个引流渠道。

　　我们关注的重点不是AI有没有帮用户做成一件事，而是能不能主动关心用户，能不能把人和人交往的场景，抽象成可以和现实服务连接的点。解决关键，还是破壁能力和场景能力。