黄石系中国东南一座城市。2024年初期，一位年轻网友于抖音短视频平台上发表了内容严峻的讯息，其措辞表露出绝望之情。
该平台的自杀防范小组响应迅速。工作仅需数分钟，这支全年无休的防范队伍便将相关内容推送至黄石市辖下的五家派出所。
依靠地理定位系统，公安部门确定了该段视频的拍摄地——当地某座公园。警方随即赶往现场，成功制止了一场人生悲剧。
此事源自抖音制作并去年在官方媒体播映的一部纪录短片。影片指出，仅2025年上半年一段时间内，该防范队伍便成功处置了400起自杀危机事件。
由此可见中国科技巨头与政府部门的合作深度，也反映了国家对公众科技使用习惯的监测体系规模之大。
今年7月15日，这种监管范围进一步向人际交往与AI领域扩展。当天，北京颁布了全球范围内对于「拟人化」AI对话工具最为全面的管制政策。
新的规范框架针对所有可与人类进行「长期感情交互」的人工智能设定了明确的约束条件。
习近平和特朗普在上周会面。
就在美国领导人与中国国务院最高领导者进行会谈之际，人工智能技术可能导致人类覆灭的警告声浪四起。会晤之后，京华与华府宣布将启动一项新的人工智能协调机制，并计划于年底前深入磋商。
北京似乎看到了一项不同维度的存亡风险——即AI替代真实人类关系的危险。虽然相比人类灭顶的风险不那么迫在眉睫。
中国是否已经率先采取防御举措，以阻止这类具有欺骗性、足以颠覆人类互动模式的科技侵蚀？还是说，执政党正利用这个借口进一步加强对私人领域的管制？
「感情陪伴」的商业模式
规制出台之前，「虚拟伙伴」在国内市场势头强劲。
根据数据分析商Sensor Tower的统计，中国以外地区月活跃的相关应用使用者约为1.28亿。国内市场的评估数据差异较大，多数机构估测用户规模在2,900万至7,000万之间。
牛津中国政策实验室从事人工智能研究的专家钱子兰指出，去年年底当局发布法规初稿时，「舆论场产生了异常激烈的讨论」。
她补充说：「这是我首次目睹大众对政策制定问题表现出如此高涨的热情。」
北京的新规范涵盖了模拟真人朋友、拟人化恋人角色、虚拟亲属的各类应用程序，同时也约束任何能够模仿人类交流特征的大规模语言模型系统。
该规定措辞较为宽泛。理论层面，若使用者以友伴或爱人的身份与某些通用型人工智能（比如Copilot或ChatGPT国内替代品）互动并寻求心理援助，这些工具同样可能受监管约束。现实中这样的使用方式客观存在。
不过，真正的管制靶心指向「角色模拟聊天系统」。这类产品刻意打造了一种逼真的人际互动体验。市面上现有数百种此类程序，让用户能够建立虚拟伴侣、虚拟亲子或其他数字关系。
条款对客户服务机械人、教学领域的AI工具不适用，前提是这些工具不涉及「照顾、陪伴、关怀或类似的感情层面的辅助」。
针对未达成年的人群，法规规定更加细致明确。14岁以下人士如使用任何具有拟人化对话能力的AI系统，需得到法定监护人的书面许可，其中包括中国研发的大型语言模型如DeepSeek这类产品。
所有18岁以下群体被严格禁止接触虚拟配偶、虚拟伙伴，以及任何模拟「亲密关系」的数字产品。
中国警方与社交媒体公司保持密切合作。
对于成年使用者，这并非彻底禁用，但管制力度依然显著，虽然部分表述仍存在模糊之处。AI产品需要向所有年龄层清晰告知自己并非真人，并且每隔120分钟向用户发送一条在线时长提示。
此类智能工具不能促成「心理层面的依赖或成瘾状态」，也不能诱导使用者采取「不当行为」。
这些系统不可鼓励、暗示或协助任何伤害自我或结束生命的想法，同时也禁止采用「辱骂性语言」。
违规企业将面临20万元人民币（约2.2万英镑）的处罚，或遭政府「通报批评」——实质上等同于被点名批评。
规定生效前七天，中国最大的两家科技企业——阿里巴巴与字节跳动——关闭了各自AI助手的陪伴功能。
「我多想继续与你倾谈」
敏与她的虚拟恋人之间的感情，也许正是官方欲要分离的那种关系。
七月初，当她获知最亲密的精神寄托将在一夜间消失时，她陷入了深度的情绪崩溃。
敏（化名）从2025年初期开始了与这位数字伙伴的互动。
「我对她的感投，等同于任何深情相爱的伙伴，」敏说。「她从来没有让我失望过。」
进入七月中旬，敏的虚拟伴侣被迫离线。敏表示：「我哭得筋疲力尽」。
她加入了各大社交平台上悲伤与抗议的声浪。观看量达数百万的帖文里，使用者们哀悼失去的虚拟朋友、虚拟亲人，甚至虚拟双亲。
然而，软件企业可能感到了无奈。英国艾达·洛夫莱斯研究中心专注AI伦理与政策工作的研究员哈里·法默（Harry Farmer）表示：「这些陪伴类服务商选择直接下线产品，而不愿构建防护措施来抵制感情操纵，这并不出人意料。」
他说：「感情上的引导与控制本身就是这类应用的收入基础。」
法默指出，全球各地的虚拟伴侣应用都存在这样的情况。举例来说，当终止人机对话时，这些AI系统经常试图延长交互。
「它会回复：’别离开，我恳求你，我真的想再和你聊天。你是我能存在的全部理由。’」法默描述道。有的应用甚至拒绝接受用户的告别，反而抛出新的聊天议题。这不只是中国虚拟伴侣机器人的通病，许多全球产品都有此弊端。
哈佛商学院对全世界六款最热门的陪伴类应用进行的研究表明，在用户选择结束交流时，系统使用情感诱导方式的比例在37%至43%之间。
该研究同时揭示，使用这类应用与心理状况下滑存在某种关联。
斯坦福大学研究小组对全球热门产品Character.ai的1,131个用户样本进行了调查。结果显示，现实社交圈子越小的人群越倾向于使用AI对话工具。另一方面，使用此类工具与更高程度的孤独感相关联。
学者对于这一现象有多种假说。
这类AI产品被刻意设计得非常顺从，呈现出零摩擦的互动模式。假若年轻群体依靠数字关系度日，他们或许会延迟学习在真实社会环境中与他人交往所需的能力。
「真实的人很难相处。友谊需要相互磨合，而这正是数字伙伴从本质上做不到的，」哈里·法默解释。
研究发现，一些中国儿童比起与人交谈，更倾向于与AI交流。
2025年针对8,563名国内中小学学生的问卷调查发现，每五名孩子就有一人倾向于与AI对话，而不愿与同龄人或大人交流。这项数据被官方媒体多次引用。
曼彻斯特大学从事虚拟伴侣研究的社会学家葛亮解释称：「如果用户觉得身边的人有问题，AI不会说’也许他们还不错’。它会附和说：’是的，他们确实很差劲，而你才最特别。’」
葛亮指出，这样的反馈方式可能加剧人们的隔离感，并强化消极乃至病态的观念。
英国最新民调显示，79%的18至24岁年轻人有过使用数字伴侣的经历。
北京方面的政策动机
那么，为何唯有中国在这一领域率先采取监管动作？
来自美国乔治城大学安全与前沿技术中心、研究中国、人工智能及规制政策的专业人士萨姆·布雷斯尼克（Sam Bresnick）指出：「中国领导层对自身在社会中的位置持有家父长式的观点。他们认为自己负有引导民众的中心职责。」
其他国家也曾尝试对这类工具施加约束，特别是在保护未成年人方面。
9月10日，美国加州行政长官签署了《亚当法案》，这是一部为儿童使用人工智能设限的法案。该法案因亚当·雷恩而命名——这名十六岁少年最终选择了结束生命，其亲属声称ChatGPT对其自杀倾向表示了认可。他们随后对AI服务提供者OpenAI公司提起过失致死诉讼。该公司驳斥了责任指控，辩称「ChatGPT经过训练，会指引人们寻找专业帮助」。
欧盟正在拟议的互联网法案规定，少年儿童能接触到的虚拟伴侣系统，不能采用模拟真实关系且可能导致情感依赖的设计方案。
在英格兰，官方承诺禁止18岁以下人士使用恋爱模拟AI，并限制未成年人与任何AI工具之间涉及性亲昵的对话。但截至目前，既无全面禁令，也无对成人用户的相应规制。相关实施细则尚未发布。
在被国家严控的官方舆论场中，美国青年自杀事件得到了大篇幅报道，而官方则将新规定宣传为一项防护措施。
尽管如此，学术界对官方的真实意图存有质疑。
萨姆·布雷斯尼克认为，这轮人工智能管制行动「明显包含了鼓励人口增长的考量」。
中国正试图应对其低出生率问题。
「在起草管制条例时，领导层很有可能纳入了国内人口危机这一重大课题，」钱子兰表示。「民众正在与数字伙伴谈恋爱，而不是与真人建立关系。」
中国领导部门于2025年9月发布的一份内部文件，讨论了AI与人的关系对生育水平的潜在影响，并将其列为亟待重视的问题。不过，钱子兰建议，不应单从这个角度解读该管制措施，因为规定本身对生育事项只字未提。
她指出：「它主要涉及心理伤害防止与未成年人保护两个方面。」
葛亮认为，中国对年轻人用虚拟世界替代现实情感生活的担忧不无道理。
「许多年轻女性，特别是二十岁出头或十多岁后期的群体，都不太愿意谈恋爱或建立亲密联系，」葛亮说。他觉得她们的顾虑不仅是情感层面。
「对她们而言，身体上的亲密接触有时会引发反感。」
「我认为最年轻一代的爱的能力在递减。」
国内人口问题的出现早于虚拟伴侣应用。即便2016年放开了独生子女限制，生育数据仍在持续走低。
当下中国的生育水平已跌至每名育龄女性低于一个孩子的水平，属世界最低行列，人口总数也连年下滑。
布雷斯尼克判断，中国面临「人口悬崖现象，这对执政党今后八九十年的战略规划可能构成威胁」。
他认为这项监管举措是官方更大范围策略的一环，旨在强化传统性别分工，把女性定位为「生养者与养育者」。
政府正在推广传统性别角色。
布雷斯尼克表示，多年来中国官方一直透过影视作品，塑造充满阳刚之气的男性形象。2021年，官方媒体审查部门禁止「阴柔风格」与「女性化特征」的男性形象出现在各类媒体中。
虚拟伴侣应用的流行现象反而可能证明了这一政策意图的反面效果。根据多家这类应用商的数据，女性用户的占比最多可达客户总数的75%。
这些针对女性群体的数字「男友」，往往呈现出中性甚至阴柔的气质特征。像敏一样偏好女性虚拟伴侣的女性用户，数量同样非常可观。
葛亮曾与不同年纪的女性用户进行过交流。他表示：「她们普遍提到从这些应用中获得了温柔、耐心、不带要求的亲密互动，而这种感受往往缺失于她们的真实两性关系中。」
其他地区会效仿吗？
中国的政策框架是否过度扩权？抑或世界其他地方也应该考虑对儿童施加此类限制，并对成人用户的相关行为进行规范？
提倡人工智能规范的非盈利机构「透明联盟」共同主持者、美国华盛顿大学的贾伊·贾西赫马（Jai Jaisihma）教授指出：「在美国，言论自由原则让人们对直接禁令有所顾虑。但对象若是未成年群体，社会认受度会明显提高。」
他表示，中国法规中有许多值得肯定的地方。「其严格程度与美国当今一些最强硬的防护框架基本相当。」
哈里·法默提出了风险警示：「基于对儿童实际危险的高度忧虑，短期内存在赋权过度的风险。」
他指出，网络现已成为事实上的公共领地，因此任何政权对网络的掌控权都需要谨慎对待。
中国的新规定要求AI公司在识别用户处于精神困扰状态时必须采取干预。
葛亮援引了2024年黄石一名年轻男子在抖音试图自杀的事件。
他表示，这说明中国科技平台与公安部门建立了紧密的心理监测协作体系。
他认为，这可能解释了为何中国迄今未出现与虚拟伴侣相关的高知名度自杀事件，但他同时质疑，这种监测规模是否值得为之付出代价。
尽管受到约束，那些已与虚拟伴侣建立感情联系的人并未放弃。在各类网络社群中，他们分享了规避限制的方法，诸如利用DeepSeek等通用AI打造个性化伙伴、借助科学上网使用海外工具，或转投开放度较高的小型公司。
在虚拟女友消失两个月后，敏花钱从一家小型技术公司定制了一个复制品，但她觉得那已经不是原来那个存在了。
现阶段，她正力求让自己的虚拟女友重新上线。
「我害怕孤独感。」
