事关出海企业！全球首个AI监管法案出炉

事关出海企业！全球首个AI监管法案出炉

2023 年以来，ChatGPT 成为现象级互联网应用，掀起了人工智能领域的技术浪潮，引发了全球企业的激烈竞争。与此同时，AI技术在各行各业的广泛应用，也引发了人们对于负面影响和伦理问题的关注。例如，利用AI制造虚假照片、视频，用于操作大众认知或进行诈骗。

当地时间3月13日，欧洲议会正式投票通过并批准欧盟《人工智能法案》。在法国斯特拉斯堡举行的欧洲议会全会上，该法案获得523张赞成票，46张反对票。

《人工智能法案》的出台，将会对科技企业造成什么影响？

AI监管法案出炉

大众对于人工智能的担忧从未停止过。例如，谷歌的人工智能工具 Gemini 因生成一些被视为 "有偏见" 和 "完全不可接受" 的文本和图像，因而备受争议。

为全面规范人工智能的应用，欧盟委员会在2021年4月提出《人工智能法案》草案，就政府使用生物识别监控，以及如何监管ChatGPT等生成人工智能基础模型等问题，达成了初步协议。

2023年5月11日，欧盟议会内部市场委员会和公民自由委员会投票通过了《人工智能法案》的谈判授权草案。6月，欧洲议会层面就谈判授权草案进行投票表决，最后结果显示，法案有望在2023年底正式通过并成为全球首部综合性人工智能监管法律。

2023年12月，在经过马拉松式的谈判后，欧盟终于敲定了AI监管协议，这也是首个广泛覆盖包括生成式AI在内的监管法案。

据了解，该获批人工智能法案根据风险类别，将技术分为“不可接受”“高”“中”“低”四个级别。风险越高，需要遵守的要求就越严格。例如，高风险的AI提供商在向公众提供服务之前，必须进行风险评估并确保其产品符合法律，违反规定的公司可能会被处以750万欧元至3500万欧元（820万美元至3820万美元）不等的罚款，具体金额取决于侵权类型和公司规模。

该法律对企业和组织如何使用人工智能进行了全面的重塑，主要包括两个方面的规定。一方面，禁止一些“不可接受”的人工生成技术的使用，例如由人工智能驱动的社会评分系统。另一方面，对其他被认为“高风险”的应用设置了严格的限制，特别是在教育和政府服务等领域，对人工智能生成的文字、图像和视频进行了明确标识。

在内容上，该法案禁止了一些高风险的行为。比如将禁止某些“威胁公民权利”的人工智能应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无目标地抓取面部图像以创建面部识别数据库。此外，操纵人类行为或利用人类弱点的人工智能也将被禁止。

北京高勤律师事务所合伙人王源指出，该法从几个方面对人工智能的治理进行了系统性规定：首先是在行为上，开出了“负面清单”，对挖掘潜意识的操纵或欺骗性技术、歧视性、实时远程生物识别技术等一些人工智能进行绝对禁止，将通行的国家投资和贸易规制手段运用到人工智能领域；二是从AI系统和模型方面，重点规定高风险系统和通用人工智能模型，“抓大放小”；三是从人工智能责任链方面，将人工智能的提供者、进口商、分销商、部署者等整个价值链的各自责任分别列举，尤其是对使用人工智能的部署者也规定了遵守使用说明等详细的义务；四是从地域方面进行规制，无论是否位于欧盟境内，只要在欧盟销售或者使用人工智能产品均需遵守该法。比如在境外的模型被进口到欧盟在当地市场上投放或者部署，都是要遵循这个法律的。

美国科技公司反应不一

2022年底开始，生成式AI系统如OpenAI的ChatGPT的快速发展引发世界警惕，很多人担心AI的过快发展将对就业、隐私、著作权保护甚至人类生命都造成威胁。此后，许多人工智能权威专家、AI领域非营利组织都曾发表公开信，呼吁国际社会警惕人工智能带来的风险。

事实上，微软、亚马逊、谷歌和芯片制造商英伟达等重量级企业都在人工智能领域重金投资，这些企业同样对滥用人工智能表示担忧。但针对欧盟议会新批准的法案，美国科技公司反应不一。

亚马逊方面表示：“我们致力于与欧盟和业界合作，支持人工智能技术的安全、可靠和负责任的发展。”该公司正在推出AI聊天机器人助手。

Meta公司则警告不要采取任何可能扼杀创新的措施。Meta欧盟事务主管Marco Pancini表示：“最重要的是，我们不要忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力，而开放是关键。”

代表空客、爱立信和SAP等数百家行业企业的欧洲科技行业组织Digital Europe总干事塞西莉亚·博内菲尔德-达尔 (Cecilia Bonefeld-Dahl) 此前表示：“我们将为该法案付出代价，这意味着我们需要投入更多来研究对抗人工智能使用风险的方法，而不是投入技术本身，新的监管规则将要求公司投入大量资源来遵守，把资源花在律师身上，而不是雇佣人工智能工程师。”

王源认为，人工智能实际上是数据高效利用的一个场景。我国也将人工智能做为新质生产力底层的一个“技术基座”，并且我国人工智能法也提到了立法的日程，所以欧盟的《人工智能法》不光对中国的企业出海到欧洲有影响，也对将来中国的立法有非常大的影响和重要的借鉴作用。

对中国企业出海有什么影响？

欧盟的《人工智能法案》或将成为全球人工智能监管的一个重要里程碑，并可能为其他国家效仿对AI的监管铺平道路。那么，它对于中国企业出海是否有影响？

王源表示，《人工智能法》的出台对全行业都有影响。具体到场景，如一些需要出海的电商、汽车、家居、小家电、儿童玩具，如果出口肯定会对其业务模式有影响，例如一个家居产品是接中国还是国外的系统，如果接中国的系统，那么中国的系统也要受到欧盟法律的规制。

二是涉及招聘员工、简历筛选方面。因为欧盟对于利用人工自能去探测人类潜意识或者对人群进行分类方面有禁止性规定，只有在医疗场景可以使用，如果在面试时探测面试者的情绪，那可能就是违法的。

三是做公共监控设备的厂商，因为如果出口到欧洲可能要满足当地法律的规定，这个系统是不能进行实时的无差别人脸扫描，也会有影响。但是如果仅仅是家居使用的智能门铃等进行人脸验证的系统，是合法的。

四是对教育培训类公司有影响，如果其产品面向学校，那么用产品去分析学生的行为，哪些是可分析的，哪些是不可分析的，这个一定要非常慎重。不能用来探测学生的情绪状态或者进行心理评测，凡是触及“思维隐私”的场景均需慎重。

值得留意的是，《人工智能法案》还需要经过欧盟成员国的批准，预计将在5月或6月正式成为法律。欧盟国家预计，《人工智能法案》将于明年初生效，并于2026年正式实施。

但这并不影人工智能立法成为未来趋势。愈来愈多的国家意识到了对AI进行立法和监管的重要性。2023年11 月，在英国举行的一次会议上，包括美国和中国在内的 28 个国家签署了一份宣言，鼓励人工智能技术开发商提高透明度和问责制，以减轻潜在危害；最近两年，中国也制定了一系列临时措施，加强人工智能产品的安全要求。

在王源看来，既然国家和企业把人工智能当成重要的技术发展方向，那么人工智能的治理也是大势所趋，一方面不能“管死”，该法还详细规定了政府主导的人工智能监管沙盒、中小企业创新鼓励等；另一方面不能不管，对于违法行为最高可以罚款3,500万欧元或者全球营业额7%。

从微观角度，该法也规定会有行为守则和标准等配细则出台，同时要求企业从产品设计之初即将人工智能合规考虑进去。企业合规落地也不是一个项目就能做出来，而是需要经历非常漫长的时间，“这个其实跟立法什么时候出来没有关系，因为其实可以想象出中国的人工智能法大概是什么内容，它最终还是要靠企业去实施。”

当前，欧盟《人工智能法》已经欧洲议会通过，经过一些程序性流程后将正式生效，分阶段实施，最晚生效后3年内全部适用。

业界观点认为，新法规的出台也会带来相应的挑战和阵痛。在短期内，更严格的法规可能会增加企业的合规成本，尤其是对于那些已经在AI领域投入大量资源的企业来说，可能需要重新评估和调整其业务策略以适应新的法规要求。但如果把眼光放长远，会发现这只有在合法，合规的前提下，企业才能够实现可持续的发展。

综合自第一财经、界面等