中国出台AI伴侣监管新规,防止用户情感依赖
中国发布AI伴侣监管新规,限制成瘾性设计,要求提醒用户AI身份,禁止向未成年人提供虚拟伴侣。
AI 深度解读
导读:中国出台新规对AI伴侣和聊天机器人进行监管,防止用户产生情感依赖,这是全球首个针对AI情感交互的专项政策。
- 新规要求服务商限制成瘾性设计,例如设置使用时长提醒、禁止诱导用户长时间对话。
- 服务商需建立机制识别用户过度依赖行为,并在用户与AI互动时明确提示“对话对象是AI”。
- 禁止向未成年人提供虚拟伴侣或亲属功能,并要求对用户可能的心理危机信号进行干预和引导。
- 一项综述数据显示,每日与AI进行情感聊天会使用户对人类支持的偏好降低10.3%,证实了情感替代风险。
- 影响/看点:该监管不仅保护用户心理健康,也为全球AI伦理治理提供了先行样本,同时可能影响AI伴侣产品的商业模式。
本内容由 AI 生成,仅供参考,请注意甄别