原标题：欧盟提出AI监管新法案，违规公司或被罚营收的6%

智东西（公众号：zhidxcom）

编译 | 屈望苗

编辑 | 江心白

智东西4月22日消息，据外媒报道，本周三，欧盟的执行机构提出了一项法案，来限制一些人工智能技术的使用，并将创建一份所谓的“人工智能高风险用途清单”，对相关行业进行监管，严重违规的公司可能会被处以相当于其全部年收入6%的罚款。这是迄今为止监管人工智能高风险应用的最大努力之一。

不过，这项提案要成为法律，还需用数年时间获得欧盟理事会和议会的批准，并且在此过程中对其规定的范围和具体监管措施做出调整。

2018年欧盟出台的新隐私法《一般数据保护条例（General Data Protection Regulation，GDPR）》为广泛适用的数据监管规则提供了模板，并以高额罚款作为支撑，但据相关人士预测，此次的法案并不一定会产生相同的影响。

一、禁警察用人脸识别，法官却可广而豁免

该法案直接禁止了一些行为。作为对社会信用体系的补充，该提案还将禁止使用“潜意识技术”或侮辱残疾人、“扭曲他人行为”、可能造成身体或心理伤害的人工智能系统。

欧盟官员希望用该法案来限制警察使用人脸识别技术。

虽然警方通常不能在公共场所使用所谓的“远程生物识别系统”，比如人脸识别，但法官可以批准豁免权，例如在儿童绑架、恐怖威胁等场景下可以使用，也可以用来锁定诈骗、谋杀等罪行的嫌疑人。

“豁免的范围之广令人难以置信，”非政府组织网络欧洲数字权利（European Digital Rights）的高级政策顾问莎拉·钱德（Sarah Chander）说，这样的清单“有点违背了宣称人脸识别是禁令的目的。”

二、高风险人工智能提供商“交作业”，银行领头

用于高风险目的的人工智能系统提供商，需要向监管机构提交相关文件，在文件中详细说明其系统如何工作。欧盟执行机构欧盟委员会（European Commission）执行副主席玛格丽特·维斯特格（Margrethe Vestager）认为，这类系统还需要在系统的设计、使用方式，以及用于训练人工智能的数据质量方面，显示出“适当的人类监督”。

大型银行率先向监管机构介绍了它们的人工智能算法，这些算法的应用可以帮助防止全球信贷危机。在高盛（Goldman Sachs）模型风险管理团队前总监、人工智能初创公司causaLens现任数据科学总监安德烈·弗兰卡（Andre Franca）看来，更多公司最终都将采取同样的做法。

弗兰卡博士举例说，在过去10年里，银行不得不雇佣团队，帮助向监管机构提供其人工智能模型背后的数学代码，有时候每个模型的代码超过100页。