张桥镇《以“紧箍咒”划底线，助力AI健康有序发展》

国家网信办《人工智能拟人化互动服务管理暂行办法（征求意见稿）》出台，标志我国AI情感服务监管迈入精细化阶段。当前，从“赛博恋人”到适老陪伴，拟人化AI已深度渗透生活场景，但市场扩张背后的风险亟待规制，这份意见稿的及时推出成为破局关键。

随着数字化进程加速与社会结构变迁，公众的情感陪伴、心理慰藉需求日益凸显且呈现多元化、个性化特征。拟人化AI凭借情感代入优势，快速落地于文化传播、养老陪伴等领域，“虚拟男友”“AI聊愈师”等服务层出不穷，甚至成为部分群体的情感寄托。数据显示，从2024年开始，中国AI伴侣类应用月活用户突破千万，头部产品付费转化率超15%，用户日均使用时长普遍超3小时，未成年人与老年人占比持续攀升。AI情感服务需求爆发的同时，行业乱象同步滋生，行业标准缺失导致服务质量良莠不齐，既有合规的智能陪伴产品，也不乏打擦边球的低俗服务，行业整顿迫在眉睫。

本次出台的意见稿精准瞄准行业痛点，明确三大核心规范方向。在主体责任层面，要求企业建立全生命周期安全管理体系，配备专业内容审核与心理干预团队；用户规模达100万或月活10万以上的平台，必须开展安全评估并提交报告。在风险防控层面，设置2小时使用弹窗提醒、极端情绪人工接管等硬性措施，一旦发现用户有自杀、自残倾向，需立即由人工接管对话并联络监护人，斩断沉迷与危机链条。在特殊保护层面，未成年人需经监护人同意方可使用，家长可查阅使用记录、设置屏蔽内容；同时严禁AI模拟老年人亲属，从源头防范养老诈骗。

新规落地将推动行业生态向规范化方向升级。对企业而言，中小机构需淘汰“情感操控变现”的灰色模式，头部企业可依托合规优势抢占市场，逐步形成“安全优先”的竞争格局。对用户而言，未成年人与老年人将获得专属保护网，普通用户的隐私安全更有保障：新规明确用户可随时删除交互数据，且未经单独同意不得将数据用于模型训练。从长远来看，规范并非限制创新，意见稿鼓励企业在文化传播、适老服务等领域拓展合法应用，推动AI从“情感玩具”升级为“民生助手”。技术向善离不开制度护航，拟人化AI的核心价值在于弥补情感需求缺口，而非制造新的社会风险。

给AI情感服务套上“紧箍咒”，本质上是为其安装“导航仪”和“安全阀”。作为全球首个AI拟人化服务专项监管办法，其出台旨在划定技术伦理边界，让AI的“温柔”不越红线。唯有在规范的框架下，创新才不会迷失方向，技术才能真正释放其温暖而强大的正向力量，成为构建更加包容、和谐、健康的数字社会的有益助力。期待《暂行办法》在吸纳各方智慧完善后，能有效落地实施，引领中国AI情感服务行业穿越成长的迷雾，驶向广阔而光明的未来。