欧盟《人工智能法案》正式生效，将对自动驾驶汽车产生影响

2024年8月1日，欧盟《人工智能法案》（Artificial Intelligence Act，以下简称“AI法案”）正式生效，并将在生效后的6至36个月内分阶段实施。该法案对进入欧盟市场的人工智能系统（AI系统）制定了统一的监管规则，旨在确保在欧盟范围内使用的AI系统的安全性、透明性、可追溯性、可解释性和非歧视性，减少AI系统对人类基本权利和社会秩序的冲击，同时鼓励AI领域的投资和创新，为AI领域技术发展留有空间。该法案被普遍认为是全球首部对AI领域进行全面监管的法律，对于欧盟乃至全球都具有里程碑意义。

欧盟《AI法案》对AI系统进行风险等级分类，并确定不同风险级别的监管要求（表1）。高风险的AI系统可能会对人类健康、安全或基本权利产生重大影响，自动驾驶汽车中使用的AI系统是这一分类等级的典型案例。

表1 欧盟《人工智能法案》对AI系统进行风险等级分类

风险等级	描述	监管要求
最小风险的AI系统	大多数AI系统，例如支持AI的推荐系统和垃圾邮件过滤器等	不受监管
有限风险的AI系统	聊天机器人等与人类交互的系统，生成合成内容（包括深度伪造）的AI系统，生物识别分类或情感识别系统	必须明确告知用户，他们是在与机器互动；某些AI生成的内容，包括深度伪造的内容，必须标注为AI生成；在使用生物识别分类或情感识别系统时必须告知用户
高风险的AI系统	可能会对人类健康、安全或基本权利产生重大影响的AI系统，包括生物识别、关键基础设施、教育、就业、自营职业、基本私人/公共服务、执法、移民、庇护、边境管制、司法管理和民主进程中使用的AI系统，作为设备安全组件或受欧盟产品安全法规覆盖的AI系统也被视为高风险	必须遵守严格的要求，包括风险缓解系统、高质量的数据集、活动日志、详细的文档、清晰的用户信息、人工监督以及高水平的稳健性、准确性和网络安全性；监管沙盒将促进负责任的创新和合规AI系统的开发
被禁止的AI系统	包括侵犯人类基本权利的AI系统，例如社交评分、利用人们的弱点、使用潜意识技术、在公共场所进行实时生物特征识别（有限例外）、某些形式的个人预测警务、在工作场所和学校进行情绪识别，以及无针对性地抓取互联网或闭路电视录像以获取面部图像以建立数据库	禁止在欧盟市场使用

资料来源：欧盟委员会（European Commission）

人工智能是自动驾驶汽车自动化功能的技术支柱。通过AI技术，自动驾驶汽车能够解读感官信息，从而感知周围环境，包括识别障碍物、解读交通信号和在复杂环境中导航等。AI算法负责决策，使自动驾驶汽车能够根据动态路况执行操作、路径规划和实时调整。此外，AI系统可以从驾驶场景中获得的大量数据中学习，从而促进车辆驾驶策略的逐步改进。AI与自动驾驶汽车的集成对于其运行至关重要，为车辆提供了独立执行驾驶任务的必要工具。自动驾驶汽车中的AI应用不仅限于基本驾驶功能，还可通过各种娱乐应用来提升乘客体验，例如：AI驱动的界面可以个性化车内体验，根据乘客偏好调整照明和温度等环境设置；AI还可以支持复杂的信息娱乐系统，提供实时新闻更新，根据收听历史推荐音乐或播客，推荐沿途景点等。

根据欧盟《AI法案》，部署在自动驾驶汽车上或与自动驾驶汽车相关的影响驾驶和乘客安全的AI系统被归类为高风险AI系统。如果自动驾驶汽车中的AI系统出现故障，可能会导致交通事故或侵犯隐私等切实后果。但根据该法案的明确规定，普通的高风险AI系统监管制度将不直接适用于自动驾驶汽车相关的高风险AI系统。

自动驾驶汽车将继续适用欧盟行业法规的监管要求。目前，欧盟适用于自动驾驶汽车的主要行业法规有两项：《型式核准框架法规》（Type-Approval Framework Regulation，TAFR）和《通用安全法规》（General Safety Regulation，GSR）。根据这些法规，自动驾驶汽车及其零部件与欧盟市场上的许多其他产品一样，必须事先经过型式核准流程，以确保车辆、系统、零部件或单独技术单元的类型符合相关的行政规定和技术要求。TAFR和GSR制定了全面的安全和环境规定，包括耐撞性标准、电子稳定控制协议和燃油效率基准，这些要求确保所有机动车辆类型（尤其是自动驾驶汽车）都遵守最高的安全和环境管理标准。汽车行业的制造商和其他利益相关者必须使其自动驾驶汽车整车和零部件符合这些法规中概述的要求，才能进入欧盟市场。

欧盟《人工智能法案》对TAFR和GSR提出了具体修订，指示欧盟委员会在未来通过行业立法时将高风险AI系统要求纳入考虑。生产自动驾驶汽车的汽车制造商可能将面临新的合规义务，预计未来的立法修正案将要求其自动驾驶汽车模型中的AI组件符合欧盟《AI法案》的高风险AI系统要求。为自动驾驶汽车提供AI技术的供应商必须确保其产品符合预计将纳入自动驾驶汽车行业立法的监管标准，以反映欧盟《AI法案》的规定。与AI创建、设计和编程相关的开发人员必须检查并可能修改其开发流程，以确保他们的系统或算法符合自动驾驶汽车的行业立法，这些立法最终将体现欧盟《AI法案》规定的高风险AI系统要求。

参考文献：

1、European Commission. European Artificial Intelligence Act comes into force[EB/OL]. (2024.8.1). https://ec.europa.eu/commission/presscorner/detail/en/ip_24_4123

2、金杜律师事务所. 欧盟《人工智能法案》对中国企业出海的影响[EB/OL]. (2024.7.8). https://www.kwm.com/cn/zh/insights/latest-thinking/eu-ai-act-and-impacts-on-chinese-enterprises-going-overseas.html

3、European Parliament. EU AI Act: first regulation on artificial intelligence[R]. (2024.6.18). https://www.europarl.europa.eu/pdfs/news/expert/2023/6/story/20230601STO93804/20230601STO93804_en.pdf

4、Holistic AI Tracker. Driving Innovation: Navigating the EU AI Act's Impact on Autonomous Vehicles[EB/OL]. (2024.2.24). https://tracker.holisticai.com/feed/autonomous-vehicles-EU-AI-Act?ref=/feed