人工智能发展太快了，如今满屏满网，从文字到照片，从声音到图像，AI无所不在。由此带来的真伪之辨也仿佛一场“打怪游戏”，难度逐渐升级。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），将从2025年9月1日起施行。
日益开放的AI技术，让更多普通人都可以自由使用，但它的副作用也很明显，就是降低了违法门槛。一位江西老人差点被AI合成的“假靳东”骗走200万元，还有人冒充医生带货、冒充经济学家荐股、冒充朋友借钱、冒充家人诈骗……《IT时报》在调查AI造假案例时发现，“AI换脸”软件只需9.9元，记者花10分钟便能轻松“变身”另一人，且生成的视频顺利在多个平台发布并传播。
《标识办法》规定所有AI生成的内容必须加上“显式”和“隐式”两种标识：显式标识就像包装上的物品名称，用户一眼就能看清“是什么”，而隐式标识则像隐藏在产品背后的二维码或防伪标识，便于平台监管与追责。这是一种“双保险”设计，能有效提高AI内容的透明度和可追溯性，让普通用户免于上当受骗的风险。
除了明确标识方式，《标识办法》还分别加强了服务提供者和传播平台的责任，意在重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理。明确每一个环节的责任者，才能最大限度避免被人钻空子。
有必要提醒，任何管理办法都要具备可操作性。比如，有人建议在文本内容中增加隐式标识，在多媒体文件中添加数字水印，但存在技术难点或可能增加企业成本。正因如此，该办法不作强制要求，而是提供了文本符号标识、音频节奏标识、文件元数据标识等成本更低、更易执行的替代方案。
AI生成与AI检测是矛与盾的关系，相对来说，检测技术具有滞后性。比如，一些不法分子可能通过技术手段篡改或删除标识，通过境外未监管的平台发布内容，或通过更隐蔽的私人社群传播，以此逃避监管。更何况，技术手段只是为了更方便识别，不等于给所有人“上保险”。就像最近曝光的冒充经济学家陈志武教人炒股的“杀猪盘”，伪造身份只是骗局的一部分，真正让人上当的，是高达58%的巨额“预期收益”诱惑。这种骗局，仅靠技术标识，不足以完全帮助人们抵御受骗风险。
无论如何，《标识办法》给人工智能这条“高速路”装上了“安全护栏”，以免轻易“脱轨”，但面对AI技术带来的治理风险，除了不断在技术上寻求突围，以及完善相关法律和政策之外，还需要持续提升公众的媒介素养与认知能力。说到底，欺骗人的不是AI，而是人。那么，识别骗局的主体，最终也要还原到人。
马青来源：中国青年报
2025年03月22日 03版
责任编辑：李婧怡
浏览量：
584
大字号
京公网安备11010702003003号
