热点事件发生后，有人利用AI生成的假“照片”引流吸睛；网络直播间里，有人利用AI生成的假“名人”疯狂带货；现实社会中，有人利用“AI换脸”实施诈骗……

　　不时曝出的此类案例，让不少人“破防”，更引发人们对AI滥用的担忧。近日，国家互联网信息办公室、工业和信息化部等多个部门联合制定的《人工智能生成合成内容标识办法》正式施行。办法聚焦人工智能生成合成内容标识的关键点，从服务提供、内容制作、产品传播等各个环节，对AI参与内容生产提出具体要求。

　　办法的颁布实施，将对规范AI参与内容生产、防范AI被滥用立规矩、画方圆。

　　近年来，生成式人工智能取得长足发展，广泛应用于人们日常生活的许多场景。新技术的运用，为经济社会发展注入强劲动能，也带来一系列滥用的新问题。

　　此前，“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”……诸如此类“有图有视有真相”的重磅“消息”，曾在网上广泛传播，引起大量网民关注。警方随后调查发现，这些耸人听闻的“消息”，是不法分子使用AI制作的网络谣言。

　　“名人效应”也是不法分子利用AI造假的重要动机。比如，一些不法商家盯上多位奥运冠军，通过AI“盗声”等方式，虚构奥运冠军为自己带货。

　　人工智能就像一柄双刃剑，利用得好，能够为工作、学习增添助力；AI被滥用，就会损害个人权益、搞乱网络环境、带偏社会风气。

　　利用AI生成的内容常常生动逼真，又没有相关的标识说明，一些不法分子甚至专门针对网民“量身打造”行骗内容，普通民众很难辨别真假。

　　相关部门推出的《互联网信息服务深度合成管理规定》明确提出，“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。”这为利用AI进行内容生产划定了底线和红线。

　　该规定第十七条提出，深度合成服务提供者提供服务，“可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况”，从而给AI生成合成内容需要标注提出了法治化要求。

　　这次实施的《人工智能生成合成内容标识办法》，是《互联网信息服务深度合成管理规定》的配套制度要求。办法第四条明确规定，服务提供者提供的生成合成服务，属于《互联网信息服务深度合成管理规定》第十七条相关情形的，“应当”按照相应要求对合成内容添加显著的提示标识。

　　办法从AI生产内容的制作源头开始全链条发力，对AI生成内容服务的提供者、使用者、发布者、平台等多角色开展约束，全方位完善制度体系，为防止AI滥用树起了制度围栏。

　　徒善不足以为政，徒法不能以自行。

　　从今年3月印发到9月正式施行，《人工智能生成合成内容标识办法》给相关单位留出了相对充分的准备时间。全面开展宣传普及，让办法贯彻实施下去，为防范AI滥用发挥出应有效用，需要全社会合力推进。

　　生成合成内容服务提供者，要为落实标注要求提供坚实的技术支持，让使用者开展标注可用、好用、易用。

　　相关企业和个人需要仔细掂量自己利用AI生产的内容，是否会损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益，做到知法、守法。对于违法行为，应当严厉查处，以儆效尤。

　　传播平台同样要承担起把关责任，既要“技防”也要“人防”，多管齐下，严防应该标注却没有标注的AI生产内容违规发布。

　　治理AI滥用难题，还需要健全处置机制，强化执法协同，用好群众力量，提升违规问题的发现能力和惩处效率。

　　为技术使用立好规矩，使用者、传播者各司其职守好内容真实的底线，AI这项未来可能越来越深入、越来越广泛影响奶茶视频APP日常生活的强大技术，才能趋利避害，不断催生新场景、新业态，赋能千行百业，服务千家万户。

　　策划：令伟家

　　统筹：朱斯哲、李代祥、刘雅萱

　　记者：尹思源

　　题图漫画：潘红宇