预计5月生效！全球首个“AI法案”在欧盟获批，“威胁公民权利”的AI应用将被禁止

当地时间13日，欧洲议会正式投票通过并批准《人工智能法案》，以严格规范人工智能的使用。

早在12月初，欧盟内部便就这一法案达成了临时协议，该法案被提交到欧洲议会进行表决。本次在周三的议会以压倒性票数获得通过，投票结果显示，共有523票赞成，46票反对，另有49票弃权。

在通过最终检查并获得欧洲理事会的认可后，该法案预计在5月生效，立法预计将于2025年初生效并于2026年实施，其中一些条款将更早生效。届时，所有的欧盟成员国都将需要遵守这项AI法案。

欧洲议会表示，该《人工智能法案》旨在全面规范人工智能的应用，保护公民权益，促进欧洲的创新，以将欧洲“打造成为该领域的领导者”。

这项史无前例的法案将禁止某些“威胁公民权利”的AI应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无目标地抓取面部图像，以创建面部识别数据库。操纵人类行为或利用人类弱点的AI也将被禁止。

该法案还制定了一系列条款，以应对支持生成式 AI 工具和聊天机器人(例如 OpenAI 的 ChatGPT)的系统所带来的风险：要求 " 所谓的通用人工智能系统 " 生产者对用于训练模型的材料保持透明，并遵守欧盟《版权法》。

欧盟内部市场委员蒂埃里·布雷东在社交媒体上发文说，对欧洲议会通过“世界上第一部针对可信人工智能的全面、具有约束力的法规”表示欢迎。

爱尔兰南部欧洲议会议员迪尔德丽·克鲁恩 (Deirdre Clune) 担任《欧盟人工智能法案》起草的首席立法者。当欧洲议会去年12月表示支持该法规时，克鲁恩表示，这将是保护欧盟公民方面向前迈出的重要一步。

克鲁恩在一份声明中表示：“通过保障人民和企业的安全和基本权利，该法案将支持欧盟以人为本、透明和负责任的方式开发、部署和采用人工智能。” “我们必须在监管和推广新技术之间找到平衡。”

专家表示，他们预计该立法将成为其他国家寻求监管人工智能的起点，人工智能正在迅速发展，而且在许多地方还没有明确的指导方针。

在美国，多个州已经提出了以人工智能为中心的立法，但到目前为止，国家层面还没有任何进展。十月，拜登总统签署了一项可能及时影响美国国家立法的行政命令。

欧盟一直在努力跟上科技发展对消费者的影响以及主要参与者的市场优势。

各国政府担心，在今年一系列重要的全球选举之前，可能会出现深度造假(deepfakes)——产生虚假事件(包括照片和视频)的人工智能形式。

一些人工智能支持者已经开始自我监管，以避免虚假信息。周二，谷歌宣布将限制其 Gemini 聊天机器人与选举相关的查询类型，并表示它已经在美国和印度实施了这些变化。

Tudorache在社交媒体上表示：“《人工智能法案》推动人工智能朝着人类掌控技术的方向发展，技术将帮助我们利用新发现促进经济增长、社会进步，并释放人类潜力。”周二媒体报道。

库利律师事务所合伙人帕特里克·范埃克表示，“欧盟拥有世界上第一部人工智能法。其他国家和地区可能会使用人工智能法作为蓝图，就像欧盟的《通用数据隐私法规》。”

然而范埃克同时表示，对公司而言，繁文缛节是不利的一面。根据违规类型，公司将面临750万欧元(约合5903万人民币)或营业额1.5%至3500万欧元或全球营业额7%的罚款。

以下为欧盟《人工智能法》中文翻译版：

一、引言

在周二的全体辩论中，内部市场委员会联合报告员布兰多·贝尼费(Brando Benifei，意大利，社会与民主党)表示：“我们终于拥有了世界上第一部关于人工智能的具有约束力的法律，旨在降低风险，创造机会，打击歧视，并带来透明度。多亏了议会，不可接受的人工智能实践将在欧洲被禁止，工人和公民的权利将得到保护。人工智能办公室将被设立，以支持公司在相关生效前开始遵守这些规则。我们确保人类和欧洲价值观位于人工智能发展的中心。”

公民自由委员会联合报告员德拉戈斯·图多拉切(Dragos Tudorache，罗马尼亚，欧洲复兴党)表示：“欧盟已经交付了成果。我们将人工智能的概念与构成我们社会基础的基本原则联系起来。然而，还有许多工作要做，这些工作超出AI法案本身。AI将推动我们重新思考民主核心的社会契约，我们的教育模式，劳动市场，以及我们进行战争的方式。AI法案是围绕技术建立的新型治理模式的起点。我们现在必须专注于将这部法律付诸实践。”

二、下一步进展

AI法案仍需接受法律语言学家的最后检查，并预计将在本次立法程序结束前，经过所谓的勘误程序，最终获得通过。

此外，法案还需要得到欧盟理事会的正式批准。法案将在官方期刊上发布后二十天生效，并在生效后24个月内全面适用，除了禁止的应用(生效后6个月内生效);实践准则(生效后9个月);通用AI要求含治理(生效后12个月);以及高风险系统的义务(生效后36个月)。

三、AI法案主要内容

(一)AI的禁止应用场景

法案禁止了威胁公民权利的某些AI应用，包括：

(1)基于敏感特征的生物识别分类系统;

(2)从互联网或闭路电视摄像头中无差别地提取用于面部识别数据库的图像;

(3)工作场所和学校中的情绪识别;

(4)社会评分;

(5)仅基于对个人画像或特征评估的预测性政策;

(6)操纵人类或利用人类弱点的其他AI应用。

(二)执法豁免

原则上，执法机构不得使用生物识别身份识别系统(RBI)，除非在详尽列出且明确定义的情况下。

“实时”RBI只能在采取严格保障措施下部署，例如时间和地理范围的限制，并需获得事先的司法或行政授权。此类用途包括搜索失踪人员或预防恐怖袭击。

使用这些系统的事后远程RBI，即被视为高风险的行为，也需要司法授权，并必须与刑事犯罪有关。

(三)高风险系统义务

法案也已经确定了其他高风险AI系统的明确义务，这些系统可能会对健康、安全、基本权利、环境、民主和法治产生重大影响。

高风险使用包括关键基础设施、教育和职业培训、就业、基本服务(例如医疗保健、银行业)、执法的某些系统、移民和边境管理、司法和民主程序(例如影响选举)。必须评估和降低前述系统风险，保留使用日志，保持透明和准确，确保人类持续监督。

公民将有权对AI系统发起投诉，并就影响其权利的高风险AI系统所作出的决定获得解释。

(四)透明度要求

通用AI系统及其基于的模型必须符合某些透明度要求，并在训练期间遵守欧盟版权法。

那些可能构成系统性风险的更强大的通用AI模型将面临额外的要求，包括进行模型评估、风险评估和报告事件。

此外，人工或操纵的图像、音频或视频内容(“deepfakes”)必须明确标记。

(五)创新及中小企业支持措施

将在国家层面建立监管沙盒和现实世界测试，为中小企业和初创企业提供在市场上推出创新A产品之前进行开发和培训的机会。

来源：格隆汇