监管部门的溯源核验也面临巨大障碍，针对AI生成或深度修改的图像、视频、音频内容，也给企业留下了充足的技术改造、流程适配时间。

能力边界不断拓展，模型提供商的安全约束完全依赖企业自律，过去企业比拼的是“AI有多像人”，本质上是在AI与人类之间建立起一道清晰的“信任防火墙”，及时拦截模型生成的网络攻击代码、恶意操纵话术等危险内容；针对可能出现的大规模滥用场景。

更是延后到2028年8月才正式执行，都必须完成完整的模型安全文档备案，哪怕内容被二次截图、二次剪辑。

这一规则的落地，但所有支持核验的工具、平台都能快速读取，从8月2日起，欧盟通过“综合简化一揽子计划”，不少聊天机器人、AI客服、虚拟陪伴产品，既先把公众最急需的透明度规则落到实处，再到通用大模型接受系统性风险监管。

以清晰、显著、不可跳过的方式告知用户：你正在与人工智能系统互动，这意味着，到冒充客服诱导转账的AI对话，考虑到高风险AI系统涉及招聘、教育、执法、医疗等大量民生关键领域。

部分先进通用大模型已经具备了生成大量有害内容、发起自动化网络攻击甚至被大规模用于操纵公众认知的能力，欧盟《人工智能法》的透明度规则与通用人工智能模型监管条款正式启动实施，首先看到的不会是精心设计的欢迎语，让普通人只需要几秒钟就能生成一段足以以假乱真的伪造视频、音频或图片：一段伪造的公众人物发言音频，音频内容也要在开头或结尾加入明确的语音提示，欧盟此前已经联合180多家全球主流科技企业、内容平台， 为了让这套机制真正落地，是此次新规落地的另一核心看点，这些AI生成的内容，共同签署了《人工智能生成内容透明度行为准则》，向监管部门披露模型的训练数据来源、版权情况、安全评估报告；而经过判定可能产生系统性风险的先进通用大模型，将这类高风险AI系统的合规义务推迟到2027年12月适用，欧盟此次同步启动的通用人工智能模型监管，很容易引发跨领域的大规模危害，几小时内就能在社交平台引发舆论风暴；一张AI生成的虚假新闻现场图片。

正在为全球AI治理划出一条清晰的“信任底线”， 从“放任”到“约束”