欧盟人工智能监管新进展，正式发布《通用人工智能实践准则（初稿）》

2024年11月14日，欧盟委员会发布首部《通用人工智能实践准则（初稿）》（First Draft General Purpose AI Code of Practice），为通用人工智能模型提供者（包括具有系统风险的通用人工智能模型提供者）遵守《人工智能法案》相关条款规定的义务提供指导，针对透明度、系统性风险分类与治理、技术措施等问题提出具体建议，以确保技术创新在合法合规的环境下推进。目前初稿仅作为进一步讨论和完善的基础，最终版本尚需在多方利益相关者的参与下确定。

一、《实践准则》的发布背景

欧盟《人工智能法案》于2024年8月1日生效，为欧盟的通用人工智能构建了一个全面的法律框架，关键条款包括：

• 第53条：要求通用人工智能模型提供者维护最新的技术文档，向下游用户提供信息，并实施版权合规策略。
• 第55条：对具有系统性风险的通用人工智能模型提供者增加额外的义务，包括风险评估、风险缓解措施和网络安全保护。
• 第56条：人工智能办公室应在该法案生效后9个月内推动《通用目的人工智能实践准则》的制定，以促进该法案的正确适用。

2024年7月30日，基于上述要求，欧盟人工智能办公室向社会公开征集对制定《实践准则》感兴趣者以及利益相关者，收集多方意见，并设定制定流程。2024年11月14日，欧盟委员会正式发布了全球首个通用人工智能实践准则的初稿以及答疑。《实践准则》的最终版本将在预计于2025年4月举行的闭幕全体会议上提交，并随后发布。发布后，人工智能办公室和人工智能委员会将评估该准则的充分性。基于此评估，欧盟委员会可能决定批准该准则，并通过一项实施法案使其在联盟内具有普遍效力。

二、《实践准则》的目标与主要内容

此次欧盟针对通用人工智能模型制定《实践准则》草案，旨在确保人工智能的发展符合欧盟法律原则和价值观，促进人工智能安全生态系统的发展。《实践准则》的目标如下：

• 为通用人工智能模型提供者明确合规证明方式，帮助其有效履行义务以及人工智能办公室顺利开展合规评估。
• 确保提供者能够理解人工智能价值链中的通用人工智能模型，以便集成到下游产品并履行后续的法定义务。
• 确保提供者有效地遵守欧盟关于版权及相关权利的法律法规。
• 助力具有系统风险的提供者能够有效持续地评估和减轻风险，确保在欧盟层面的安全性。

《实践准则》的主要内容包括：

1. 透明度与版权相关规则

(1) 要求通用型人工智能模型提供者编制详尽的技术文档，涵盖模型的架构、训练过程及其用途。

(2) 提出版权合规性措施，包括使用数据集的合理性评估、文本与数据挖掘规则的遵守以及避免侵权内容的生成。

2. 系统性风险的分类与评估

(1) 初稿系统性地分类了AI可能带来的风险，包括网络攻击、信息操控、失控风险等。

(2) 强调了风险评估的“全生命周期管理”，从模型的开发到部署后的持续监控均需覆盖。

3. 技术风险的缓解措施

(1) 提议采用风险管理框架（SSF），要求提供者详细描述风险评估方法与缓解措施。

(2) 强调应对高风险AI模型实施更严格的技术保护措施，如对权重和数据的安全加密。

4. 治理与合规

(1) 提议对系统性风险的责任归属进行明确分配，包括高层管理人员与董事会的监督职责。

(2) 设立独立专家评估机制，以确保第三方对AI模型的能力与潜在风险进行客观审查。

三、结语

《行为准则》虽然只是作为初稿进行发布，但仍为欧盟内部的AI开发者和使用者提供了未来监管和合规经营的方向，也一定程度上对全球范围内的AI技术发展和应用产生影响，进一步推动风险管理的标准化。《行为准则》要求开发者和使用者对不同级别的风险采取相应的措施，为全球AI监管树立一个平衡创新与保护基本权利的参考基准。对于从业公司而言，《行为准则》的出台既是机遇也是挑战，如何在保证合规的基础上进行守正创新成为他们下一步亟待解决的问题，而严格的监管要求也可能派生出不少新的职业需求。由此，欧盟在人工智能监管领域未来的走向值得拭目以待。

参考文献：

[1] EU. First Draft of the General-Purpose AI Code of Practice published, written by independent experts[EB/OL].(2024-11-14)[2024-11-27]. https://digital-strategy.ec.europa.eu/en/library/first-draft-general-purpose-ai-code-practice-published-written-independent-experts.

[2] Akin. EU AI Act in Action: First Draft General-Purpose AI Code of Practice[EB/OL].(2024-11-18)[2024-11-27]. https://www.akingump.com/en/insights/alerts/eu-ai-act-in-action-first-draft-general-purpose-ai-code-of-practice.

[3] 搜狐. 通用人工智能业务守则（初稿）（2024）（英文版）-欧盟[EB/OL].(2024-11-24)[2024-11-27]. https://news.sohu.com/a/829630944_121970615.