全球数治｜欧盟《人工智能法》的意义与缺陷
澎湃新闻见习记者 吕娜 编译
你知道吗？4月21日，欧盟委员会重磅发布了《人工智能法》提案（以下简称《提案》），这标志着全球AI治理迈出关键一步！作为欧盟首个人工智能专属法律框架，其核心目标是化解AI风险，打造统一可信的欧盟AI市场，并捍卫公民基本权利。欧盟清醒意识到，在全球AI规则空白之际，唯有联盟层面协同行动，才能守护数字主权，并借监管之力重塑国际标准。
近期，美国布鲁金斯学会高级研究员马克·麦卡锡与乔治敦大学欧盟法教授肯尼斯·普罗普联袂撰文《机器们知悉欧盟制定了人工智能新法规》，犀利点评《提案》内容，盛赞欧盟推动AI治理的积极意义，并剖析其对跨大西洋合作的潜在冲击。
麦卡锡和普罗普指出，《提案》最亮眼之处在于构建了以风险为本的审慎监管架构，将AI系统精细划分为不可接受风险、高风险、有限风险及极低风险四档，并量身定制监管策略。焦点直指不可接受风险和高风险领域：除非万不得已，任何可能引发不可接受风险的AI应用均遭封杀；高风险AI则须严控，提供者与使用者必须恪守数据管理、记录保存、透明度及人为监督等规则，确保系统精准可靠。低风险AI仅需轻度监管。《提案》两大创新引爆关注：一是上市前合格评估，高风险AI系统必先过关才能上市；二是全程监测机制，实时发现问题并止损。
专家们对《提案》的适用范围、风险定义及监管落地进行了多维拆解。
《提案》法律触角极广：涵盖机器学习软件、规则型算法、信用评分技术等所有AI形态。只要AI数据涉欧或关联欧盟公民，全球开发者、供应商及使用者皆受管辖。
针对“不可接受的风险”，《提案》明确定义：凡用AI操控人类行为，致身心伤害，并威胁公民安全与权利者，一律禁绝。例如，公共场所实时远程生物识别系统原则上禁用于执法，除非为搜救儿童或反恐等紧要任务。
“高风险”领域虽未明确定义，但划出八大雷区：关键基础设施、教育、安全组件、就业、公共服务、执法、出入境、司法民主进程，且所有远程生物识别系统自动归入高风险。高风险AI提供者必须履责七大核心：1、建全数据管理机制；2、供精准数据集；3、向政府提交合规证明；4、对用户透明化运作；5、落实人为监督；6、防“自动化偏见”；7、保高等级安全准确。同时，上市前强制评估，投入使用后还需持续监测，重大更新需重新过关。
监管执行方面，《提案》要求各国市场监管机构主导新规落地。未来，欧盟将成立欧洲人工智能委员会，统筹治理、促标立法、发布指南，并协调各国一致行动。
惩罚力度空前：违规者须限期整改，否则面临产品禁售、撤市或召回。最高罚金达3000万欧元，企业最高可罚年营业额的6%。
麦卡锡和普罗普直言《提案》仍有硬伤。其一，虽提及“算法偏见风险”，但防范条款模糊薄弱，恐让科技巨头钻空子。社交、搜索、电商等核心算法未被列为高风险，仅部分广告追踪算法受禁。其二，信息披露不足：AI识别情绪、性别、种族等信息时，或“深度伪造”被操纵时，用户有权知情；但算法排序决定福利、信贷、教育机会时，却无告知义务。其三，上市前评估程序笼统，监管效果存疑。这些漏洞亟待立法进程修补。
展望跨大西洋合作，专家认为，相较于欧盟的统一立法，美国AI监管仍呈“碎片化”。特朗普时代放权各机构，拜登政府或加重视，但难改分散模式，整体风险监管框架难产。
但美欧合作空间可期：欧盟提议设贸易与技术委员会，共商AI协议。一旦欧盟高风险标准落地，美国可协商制度接轨，容美企在美监管下评估，或互认评估结果；美国机构制定规则时，亦可参考欧盟范本，通过对话凝聚共识。
欧盟《人工智能法》提案是2020年《AI白皮书》的关键落地，彰显其引领全球数字规则革新的野心。前景虽未卜，但立法实践本身已掷地有声，为国际规则提供重要镜鉴。
这场AI监管变革正重塑未来！你是否准备好应对？立即关注我们，解锁更多深度分析。
责任编辑：吴英燕
校对：施鋆
相关问答
人工智能法具体内容?
以下是人工智能法的具体内容:1.人工智能系统的设计规范:人工智能系统的设计需要遵循一定的规范,例如,程序设计需要遵循编程道德和编程规范,系统需要有足够...
欧盟人工智能法全文?
以下是我的回答,欧盟人工智能法全文涉及对人工智能系统的全面监管,旨在为技术的开发和使用提供更好的条件。该法案根据风险级别对人工智能系统进行分类,并针...
AI造字法分几种?
方法一、几何形塑造字体利用Illustrator的路径查找器(也叫修整)浮动面板,通过对规范的几何形,进行相加、相减、相交,分割等操作,设计出形态各异的笔划来,...
AI的性质?
AI是主要研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。AI是计算机科学的一个分支,它尝试了解智能的实质,并生产...
...片变成私密视频进行威胁，我应该怎么做?-法律快车法律咨询
然后警告对方其行为违法,若继续将承担法律后果。若对方不听,可考虑通过法律途径追究其责任,这种利用AI换脸制作私密视频威胁他人的行为,可能涉嫌侵犯名誉权...
人工智能技术运用的层次分析法?
层次分析法(AnalyticHierarchyProcess,AHP)这是一种定性和定量相结合的、系统的、层次化的分析方法。这种方法的特点就是在对复杂决策问题的本质、影响因素...
西南政法大学人工智能法学院研究生考的行政法大纲?
考试科目:①101思想政治理论②201英语一或202俄语或203日语或244德语或245法语③704法学基础(法理学100分、宪法学50分)④807专业基础B(民法学(民法总则...
人工智能的创造成果可不可以受到知识产权法的保护?
人工智能的创造成果可不可以受到知识产权的保护呢?目前这个问题还颇具争议。主要问题是人工智能的创造成果有没有知识产权,如果有知识产权应该属于谁?是属于人...
描图AI违法吗?-法律快车法律咨询
描图AI是否违法需分情况。操作如下:1.若已获授权,则合法使用;2.若未获授权,立即停止使用,并与权利人协商赔偿;3.协商无果时,收集证据,向法院提起诉讼...
小嘟AI课这款法考APP怎么样?
『小嘟AI课』这款app是文都教育集团旗下由文都法考专为法律人打造的备考瘦身利器,专注于为法考人提供更智能、更方便的学习辅助工具,涵盖AI直播、AI听课、智能...
