欧盟「人工智慧法」关键条款上路 AI生成内容须强制标示 违者将面临巨额罚款

欧盟2日开始实施人工智慧透明度规定，影响欧盟内外数百万个AI应用。（法新社档案照）

欧盟的人工智慧（AI）法规2日进入最关键的执法阶段，欧盟执委会（European Commission）的AI办公室与各国当局，开始执行影响欧盟内外数百万个AI应用的透明度规定——「人工智慧法」（AI Act）第50条。

自2026年8月2日起，新的透明度规范要求AI系统必须向使用者揭露其性质。聊天机器人与互动式AI系统必须告知使用者，他们正在与AI而非真人对话。使用AI编辑或生成的影像、影片或音讯，即所谓的「深度伪造」（Deepfakes）必须清楚标示。AI生成或窜改的内容，也必须带有机器可读的标记，以便更容易被侦测。

请继续往下阅读...

这些规范适用于提供者（开发与发布AI系统的公司）以及部署者（在营运中使用这些系统的组织）。发布AI生成新闻报导的媒体公司、在客服入口网站部署第三方聊天机器人的银行，或是使用AI筛选履历的招募公司，均在此要求范围内。透明度义务立即适用于规范范围内的所有AI系统，无论其何时上市。

欧盟执委会已于7月20日发布指引，阐明4大关键领域的合规标准：与使用者的直接互动、AI生成的合成内容、情绪识别与生物辨识分类系统，以及涉及公共利益事务的深度伪造，或AI生成文本。执委会还公布1份超过180个组织的清单，这些组织已签署「AI生成内容透明度实践守则」（Code of Practice on Transparency of AI-Generated Content），这是一个落实规范并提供标记实用技术措施的自愿性框架。

未合规者将面临巨额罚款。未能履行透明度义务的组织，将面临最高1500万欧元（近新台币5.6亿元），或全球年度营业额3％的罚款，以两者中较高者为准。与「人工智慧法」的大多数其他条款不同，这些义务立即适用，且不包含延长的宽限期。在8月2日之前生成但在此之后发布的内容，仍必须符合标示要求。

8月2日的最后期限标志著分阶段实施行动来到最高峰，该实施计划始于2025年2月对被禁AI行为的禁令。「人工智慧法」于2024年8月1日生效，并将透过2028年滚动式实施其条款，但透明度规范是首次针对绝大多数部署生成式AI的组织所采取的广泛执法行动。

法律专家指出，透明度层级是该法迄今适用范围最广的部分，不仅涵盖AI开发者，还扩及所有以专业身分使用这些系统的企业。

这项执法行动反映欧盟的既定目标，即在维护民主程序与公众信任的同时，减少欺骗、错误资讯与操弄。随著生成式AI工具自2022年底以来激增，明确标示的呼声日益高涨。最初的「人工智慧法」草案已包含透明度义务，后来为因应如ChatGPT等大型系统的出现而扩大范围，并在2024年6月通过的最终文本中被大幅保留。

尚未审查其AI系统或更新其合规框架的企业，将面临立即风险。透明度义务并未豁免以免费与开源授权发布的系统，也非仅适用于新的部署。任何出于专业目的使用AI的组织，无论是新创公司或跨国企业，都必须确保其系统在2日符合规范。执委会已表明，自愿性「实践守则」的签署者将受惠于「推定合规」（presumption of conformity），这为证明符合规范提供实用的途径。

来源：自由时报