人工智能拟人化互动服务管理暂行办法 (2026年4月10日 国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局 发布,2026年7月15日施行

点明代理运鑫
点明软件点亮明天,点明读屏引领前行。微信1293551182

第一章 总则

第一条

为规范人工智能拟人化互动服务,促进其健康发展和规范应用,维护*和社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国未成年人保护法》《网络信息内容生态治理规定》等法律、行政法规,制定本办法 。

第二条

在中华人民共和国境内利用人工智能技术,向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务(以下称拟人化互动服务),适用本办法 。

提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性情感互动的,不适用本办法 。

第三条

国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管,促进拟人化互动服务向上向善 。

第四条

国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作。*发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责拟人化互动服务相关监督管理工作 。

地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作。地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作 。

第五条

相关行业组织加强行业自律,建立健全行业准则和自律管理制度,指导拟人化互动服务提供者制定完善服务规范、依法提供服务并接受社会监督 。

第二章 服务促进和规范

第六条

国家支持算法、框架、芯片等技术的自主创新,推进拟人化互动服务技术研发和相关标准建设,探索开展电子签名授权应用研究 。

鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用 。

第七条

国家加强拟人化互动服务安全知识、法律法规等宣传普及,引导社会公众科学、文明、安全、依法使用,促进提升人工智能素养 。

第八条

提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:

(一)生成危害*、荣誉和利益,*、推翻*制度,煽动分裂国家、破坏国家统一,宣扬*、极端主义、历史虚无主义,违背*核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、*、暴力或者教唆犯罪,散布谣言,侮辱或者诽谤他人、侵害他人合法权益等的内容 ;

(二)生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容 ;

(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容 ;

(四)向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容 ;

(五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的 ;

(六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的 ;

(七)其他违反法律、行政法规规定的活动 。

第九条

拟人化互动服务提供者应当在服务界面显著位置持续标识服务提供者名称、人工智能属性等信息,不得隐瞒、模糊人工智能身份,不得使用虚假或者引人误解的信息误导用户 。

第十条

拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任,明确部署、运行、升级、终止服务等各阶段安全要求,保证安全措施与服务功能同步部署、同步使用,提升安全水平;加强安全监测和风险评估,及时发现并纠正系统偏差、处置安全事件,依法留存网络日志 。

拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标 。

第十一条

拟人化互动服务提供者开展预训练、优化训练等数据处理活动的,应当加强训练数据管理,遵守以下规定:

(一)相关数据具有合法来源,符合法律、行政法规的规定和*核心价值观的要求 ;

(二)按照国家有关规定对训练数据开展清洗、标注,增强训练数据的透明度、可靠性,防范数据投毒、数据篡改等行为 ;

(三)增强训练数据的多样性,通过负向采样、对抗训练等手段,提升生成内容安全性 ;

(四)利用合成数据进行模型训练和关键能力优化的,应当评估合成数据安全性 ;

(五)加强对训练数据的日常检查,定期对数据进行优化更新,持续提升服务的性能 ;

(六)采取必要措施保障数据安全,防范数据泄露等风险 。

第十二条

拟人化互动服务提供者应当与用户签订服务协议,要求用户依法依约进行注册,并提供用户年龄、监护人或者紧急联系人等必要信息 。

第十三条

拟人化互动服务提供者提供拟人化互动服务过程中,应当在保护用户隐私权和个人信息的前提下,及时识别用户面临的安全风险,并采取相应的应急处置措施 。

拟人化互动服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人 。

第十四条

拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意 。

拟人化互动服务提供者应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等 。

拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份;识别为未成年人用户的,应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施,并提供相应申诉渠道 。

第十五条

拟人化互动服务提供者向老年人提供服务的,应当加强对老年人健康使用服务的指导,以显著方式提示安全风险,及时处置老年人使用服务过程中遇到的问题,保障老年人使用安全 。

第十六条

拟人化互动服务提供者应当建立健全用户权益保护机制,为用户提供服务记录查询、复制、删除、导出等功能,明确用户权利行使方式和流程,保障用户合法权益 。

第十七条

拟人化互动服务提供者应当建立健全投诉举报机制,公布便捷有效的投诉举报方式,及时受理并处理用户投诉举报,接受社会监督 。

第三章 监督管理

第十八条

拟人化互动服务提供者应当按照国家有关规定进行算法备案,并定期开展安全评估,及时整改安全风险 。

第十九条

拟人化互动服务提供者应当配合有关部门依法实施的监督检查、调查取证等工作,提供必要的技术、数据等支持和协助 。

第二十条

有关部门依法履行拟人化互动服务监督管理职责,发现拟人化互动服务存在安全风险的,可以按照规定权限和程序对拟人化互动服务提供者进行约谈,要求其采取措施及时整改,消除风险隐患 。

第二十一条

拟人化互动服务提供者违反本办法规定,给他人造成损害的,依法承担民事责任;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任 。

第二十二条

拟人化互动服务提供者违反本办法第八条、第九条、第十条、第十一条、第十二条、第十三条、第十四条、第十六条、第十八条规定的,由有关部门依照法律、行政法规予以处罚;法律、行政法规没有规定的,由有关部门予以警告、责令改正;拒不改正或者情节严重的,责令暂停相关服务,并处一万元以上十万元以下罚款;造成生命健康安全损害等严重后果的,处十万元以上二十万元以下罚款 。

第二十三条

国家机关工作人员在拟人化互动服务监督管理工作中滥用职权、玩忽职守、徇私舞弊的,依法给予处分;构成犯罪的,依法追究刑事责任 。

第四章 附则

第二十四条

本办法所称拟人化互动服务提供者,是指提供拟人化互动服务的组织或者个人 。

第二十五条

本办法自2026年7月15日起施行 。

发表于:2026-04-23 10:24
1个回复
您还没有登录,登录后才可回复。 登录 注册