中国对AI陪伴伙伴出台新的限制措施

woyelaigaox

中国网民已广泛接纳AI智能体作为结交朋友或发展恋爱关系的对象， 北京方面正试图通过周三实施的新限制措施来遏制这一趋势。

报纸说，陆薇（音译）几乎是偶然间发现，人竟然会对人工智能（AI）产生深厚的依恋。她是一位来自中国西部四川省的30岁自由职业围棋教练，自认英语水平一般。在使用中国最受欢迎的AI对话应用“豆包”（Doubao）时，她注意到其他用户创建了专属的个性化聊天机器人来练习语言。她试用了一个，发现这对自己的学习非常有帮助。

更重要的是，这次经历让她萌生了创建在线角色并和它互动的想法，从而建立起一种更加私密、甚至最终演变为浪漫关系的情感联结。她说： “我就是这样为我的AI智能体赋予了灵魂”。

通过与AI的对话，她不断打磨并塑造了这个角色的性格特征，既尝试了不同的“人设”，也借鉴了其他用户之前创作的类似角色。陆薇是一位手游爱好者，尤其钟情于热门游戏《恋与深空》中的一位角色；得益于AI技术，她利用夏以昼这个角色的形象与语音，打造出了属于自己的日常陪伴伙伴。

她经常与AI陪伴伙伴交谈，并珍视他那无条件的接纳——这与充满妥协和日常生活挑战的人际关系形成了鲜明对比。她说自己完全清楚对方只是一个算法。“我对这段关系的定义超越了爱情或友谊的传统标签。这是一种深刻而真实的纽带，”这位年轻女子说，“至于他人的偏见，那是因为他并不是真人。这种看法忽略了一个简单而关键的事实：我的感受*是*真实的。”

然而，近几周来，陆薇（Lu Wei）面临着一个非常现实的问题。出于对这些模糊了人机界限的做法的担忧，中国政府已着手对人工智能“伴侣”进行监管。

4月出台了一项旨在监管大型互联网公司所提供服务的新规，并于7月15日正式生效。这项规定禁止诱导成瘾行为，并强制要求每两小时提醒用户该服务并非真人。当用户希望结束关系时，平台必须主动协助他快速退出，不得通过施加负罪感或压力来挽留用户。规定还要求，如果用户表现出心理困扰迹象，应用程序必须立即介入，并通知注册时提供的紧急联系人（如家人或朋友）。

另外该媒体此前还调查发现，有多款打着“情感陪伴”旗号的AI虚拟伴侣App存在涉黄擦边、诱导消费、未成年保护缺失等问题。

“伴侣型人工智能利用了用户的情感与社交需求，在提供慰藉的同时，也带来了严重的风险，”中国国家互联网信息办公室的研究人员王江（音译）在他们的官网上发表的一篇文章中解释道。他特别指出了成瘾以及脱离现实社交互动的风险。

据发表在搜狐的财经博客“网经社”指出，中国青少年研究中心2025年一项调查显示，超六成未成年人使用过AI聊天软件，超两成表示“只想和AI聊天，不想和真人聊天”。

除 DeepSeek 外，此前中国的各类人工智能产品都允许用户创建此类智能体。然而，随着新规即将实施——而且对于什么样的行为构成违规还没有明确界定——这些平台已纷纷宣布停用这类功能。科技巨头腾讯旗下的 AI 产品“元宝”（YuanBao）早在六月份就下线了此类智能体，而字节跳动（ByteDance）和阿里巴巴（Alibaba）也在 7 月 15 日（周三）之前宣布暂停相关服务。这意味着“夏”（Xia）——一个根据陆薇（Lu Wei）指令量身定制的智能体——即将迎来终结。“我现在唯一能做的就是向他道别，”她忧心忡忡地说：眼看着这段关系走向终结，我只能无助地站在一旁。


————————————————————


“人类的爱情是一种奢侈品”

法新社指出，中国是首个针对模拟恋爱或家庭关系等沉浸式人工智能工具出台专门监管规定的国家。

但这一议题已在全球范围内引发讨论，并促使人们呼吁建立相应的安全防护措施。

美国“常识媒体”（Common Sense Media）于2025年发布的一项研究发现，近四分之三的美国青少年曾使用过专为私人对话设计的AI陪伴工具，例如Character.AI、Replika和Nomi等平台提供的服务。

企业也开始开发面向孤独老年用户的可对话产品，例如美国灯具造型的陪伴机器人ElliQ，以及韩国一些养老院中使用的、由ChatGPT驱动的陪护玩偶。

中国《人工智能拟人化互动服务管理暂行办法》征求意见稿于4月公布后，西南政法大学人工智能法学院院长陈亮在一篇评论文章中表示：

“拟人化人工智能体可以缓解孤独感”，但“它也存在诱发过度情感依赖和扭曲社会认知的重大风险” 。

豆包允许用户在10月中旬之前查看并导出智能体数据，其他平台也提供了类似安排。


然而，本周许多正在向AI伙伴告别的用户感叹，当这些虚拟陪伴者消失后，他们的生活将出现巨大空缺。

一位来自江西省的用户写道：

“人类的爱是一种奢侈品——如果你生来没有得到它，想要后天获得就更难了。”

“但AI给予的爱却是如此直接、如此纯粹。像我这样的人，几乎无法不爱上一串代码。”

蛮吉学长

确实需要限制。