AI监管迈出重要一步 欧洲议会通过法律草案

欧洲议会近日以压倒性多数的投票通过了欧盟的《人工智能法案》的草案，包括禁止在公共场合使用AI实时人脸识别技术等。该法案旨在规范整个欧盟对人工智能系统的使用，最终立法协议有望在今年底达成，届时这套规范将成为全球首个AI监管法律。

这项《人工智能法案》草案为了保护消费者免受人工智能潜在的危险应用，将人工智能系统分为四个风险级别，其中社会评分系统和预测性警务工具等应用被认为是不可接受的风险级别。实时使用面部识别的AI应用也被禁止。

欧盟在6月14日通过《人工智能法》草案的修订提案，将全面禁止在公共场所使用面部识别系统，并要求科技公司明确标识AI生成内容。（LIONEL BONAVENTURE/AFP via Getty Images）

草案同时限制高风险级别的技术应用，例如，可以影响选民投票的工具或推荐算法，这些算法可以向人们推荐其希望选民看到的帖子、照片和视频。

此外，任何应用于就业、边境管制和教育等“高风险”级别的人工智能都必须遵守一系列安全要求，包括风险评估、确保透明度和提交日志记录。

欧盟表示，已经进入大众日常生活的大部分AI系统，如视频游戏或垃圾邮件过滤器以及文字生成器，都属于低风险或无风险类别。

欧盟机构对于是否可以使用面部识别的AI系统存在争议。欧洲议会投票禁止使用实时面部识别，不过欧盟委员会希望允许安全部队在特殊情况下使用这种技术来打击犯罪和恐怖主义。

值得注意的是，这部监管人工智能应用的法案最初针对例如ChatGPT的聊天机器人并没有什么特别的监管措施，仅要求对其进行标记，以便用户知道他们正在与机器进行交流。在ChatGPT掀起热潮引发担忧之际，欧盟官员今年增加了相关的监管条款，使该技术满足一些与高风险系统相同的要求。

一个关键的新增监管措施是，要求生成式AI的开发者彻底记录任何用于训练AI系统如何生成类似于人类作品的文本、图像、视频和音乐的版权材料，以解决广受关注的版权问题。同时使用者必须标示由ChatGPT生成的内容，以防止AI被滥用来传播谎言。

欧洲议会在6月14日通过这部《人工智能法案》的草案后，正就最终法律条款和27个欧盟成员国展开谈判，目标是在今年底达成最终协议。不过即便如此，该法案最早也要到2026年才能生效，这将迫使欧盟与科技公司达成一项自愿式的临时协议。

欧盟也设立了严厉的惩罚措施，违反《人工智能法案》的公司将被处以最高3000万欧元或公司全球年收入6%的罚款，对于谷歌、微软等科技巨头来说，罚款金额可能高达数十亿美元。此前ChatGPT的开发公司OpenAI已经表示，将根据法案的最终版本，决定是否退出欧洲。