4月下旬至5月上旬,“筑梦岛”App发布公告称,正在持续推进产品与社区内容治理工作,将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行调整。
正式落地实施。而最近头部AI大厂都在紧急整改,豆包、千问集体下架部分智能体功能,因为强监管已然来临。
智能客服、知识问答、办公助手这类以提效为核心、无持续情感互动的产品,完全不在监管范围内,不受任何影响。新规专门增设排除条款,避免影响产业发展。
通用大模型,本身是生产工具,却能被用户随意“调教”,做成专属虚拟人设;很多平台的UGC智能体入口,看似是辅助工具,实则能衍生出长期情感互动。
边界模糊、场景复杂,既然分不清、判不准,那就干脆全部下架。这就是大厂当下最保守、最稳妥的保命逻辑。
对于未成年人,监管的初衷是保卫大脑、杜绝成瘾,新规规定“不得向未成年人提供虚拟亲密关系的服务”。
对于成年人,防护重点之一是色情,而暧昧与色情往往只有一线之隔,国内此前已有AI陪伴产品涉黄获刑的案例。情感依赖则是另一重隐忧。
监管并不是要一刀切断情感连接,限制AI技术发展,而是守住人机边界,防止情感混淆,保护人类在人机互动中的主体地位。
但这里藏着整个行业最尖锐的矛盾。研究显示,未来3到5年,AI陪伴是千亿级别的赛道。比如星野已经坐拥千万级月活。
用户体验好的产品会通过多模态、多场景或现实介入,降低情感建立门槛,采取双人共养、共建世界等形式,提升亲密度。然而,这些恰恰最值得警惕,可能会违反新规中的“防止过度依赖”的规定。甚至很多用户会自主突破合规限制,比如使用拼音替代敏感词。
特别以上内容为自媒体平台“”用户上传并发布,本平台仅提供信息存储服务。
消费者称在乐事薯片中吃出“蓝色薯片”,品牌方回应:已与消费者取得联系,希望可以取回产品进行内部核查
人大撤销蒋方舟硕士学位,举报人清华教授肖鹰最新回应:此事我的工作已结束;这是一次“及时的、果决的自我纠错”
别等十周年开了再回!提前回归过主线硬核推荐!KK对战平台技术分享:高难度星际争霸AI地图怎么练手?
炸裂!四川“捡漏王”诞生!441分,上公安部直属顶尖警校!国防科大、兰州大学、华中师范等多校出现高考捡漏王……



