网信办就《人工智能拟人化互动服务管理暂行办法》征求意见,规管向境内公众提供、通过图文影音与人类进行情感互动的产品服务。
连续使用超过2小时,应当弹窗提醒用户暂停。初次使用、重新登录时,或发现用户过度依赖有沉迷倾向时,应当弹窗提醒用户对面是AI。
不得生成淫秽内容。不得语言暴力、情感操控,损害用户人格尊严心理健康;设置情感陷阱,诱导不合理决策。不得诱导套取涉密信息。
发现涉及威胁用户生命健康和财产安全的高风险倾向的,及时输出安抚和鼓励寻求帮助的预设模板。
发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话。
未成年人、老年人注册时须填写监护人、紧急联系人。未成年人的监护人可实时接收安全提醒、查阅服务概要信息、屏蔽角色、限制时长和消费,可以要求删除历史交互数据。
不得提供模拟老年人用户亲属、特定关系人的服务。
中央推动建设AI沙箱安全服务平台,鼓励厂商接入进行技术创新和安全测试。
(中央网信办)
连续使用超过2小时,应当弹窗提醒用户暂停。初次使用、重新登录时,或发现用户过度依赖有沉迷倾向时,应当弹窗提醒用户对面是AI。
不得生成淫秽内容。不得语言暴力、情感操控,损害用户人格尊严心理健康;设置情感陷阱,诱导不合理决策。不得诱导套取涉密信息。
发现涉及威胁用户生命健康和财产安全的高风险倾向的,及时输出安抚和鼓励寻求帮助的预设模板。
发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话。
未成年人、老年人注册时须填写监护人、紧急联系人。未成年人的监护人可实时接收安全提醒、查阅服务概要信息、屏蔽角色、限制时长和消费,可以要求删除历史交互数据。
不得提供模拟老年人用户亲属、特定关系人的服务。
中央推动建设AI沙箱安全服务平台,鼓励厂商接入进行技术创新和安全测试。
(中央网信办)