一、背景介绍
近日，欧盟委员会正式发布《关于禁止的人工智能实践指南》（以下称“指南”），对欧盟《人工智能法》中禁止使用的人工智能实践类型进行进一步明确和细化，以确保《人工智能法》在整个欧盟的一致、有效和统一适用。
《人工智能法》于2024年8月1日生效，是全球首部全面监管人工智能的立法，该法将人工智能应用分为不可接受风险、高风险、有限风险和最低风险四类风险等级，并制定了相应的监管措施。指南的发布进一步细化了立法的执行细节，旨在平衡技术创新与用户权益保护，但指南不具约束力，最终解释权归属于欧盟法院 (CJEU)。
二、主要内容
指南对欧盟《人工智能法》第5条“禁止将某些人工智能系统投放到欧盟市场、投入使用或用于操纵、剥削、社会控制或监视行为，这些行为本质上违反了基本权利和联盟价值观”进行澄清。
（一）禁止的人工智能实践类型
指南明确被禁止的人工智能实践包括：
一是禁止有害操纵和欺骗（第5(1)(a)条）。禁止人工智能系统使用超越人类意识的潜意识技术、故意操纵或欺骗的技术，其目的或效果是扭曲行为，误导用户做出非自愿决策，造成或可能造成重大伤害。
二是禁止有害利用弱点（第5(1)(b)条）。禁止人工智能系统利用因年龄、残疾、特定社会或经济状况而产生的弱点，以扭曲个人或群体行为为目的或效果，导致或可能导致重大伤害。
三是禁止社会评分（第5(1)(c)条）。禁止人工智能系统根据社会行为或个人性格特征对个人或群体进行评估或分类，当数据来自不相关的社会背景、此类处理不公正或与社会行为不成比例时，社会评分会导致有害或不利的待遇。
四是禁止个人犯罪风险评估与预测（第5(1)(d)条）。禁止人工智能系统仅根据个人资料或性格特征和特点来评估、预测个人犯罪风险；除非是为了支持基于与犯罪活动直接相关的客观、可验证事实的人工评估。
五是禁止通过无针对性抓取数据来开发面部识别数据库（第5(1)(e)条）。禁止人工智能系统通过无目标抓取互联网或闭路电视录像中的面部图像来创建或扩展面部识别数据库。
六是禁止情绪识别（第5(1)(f)条）。禁止在工作场所或教育机构中使用推断情绪的人工智能系统，除非出于医疗或安全原因。
七是禁止生物特征分类（第5(1)(g)条）。禁止人工智能系统基于生物特征数据对人进行分类以推断其种族、政治观点、工会会员身份、宗教或哲学信仰、性生活或性取向，除非用于对合法获取的生物特征数据集进行标注或过滤。
八是禁止实时远程识别生物特征（RBI）（第5(1)(h)条）。禁止在公共场所使用实时远程生物特征识别技术的人工智能系统，除非用于搜寻犯罪受害者、预防恐怖袭击或追踪特定犯罪嫌疑人等。
（二）例外情形
指南还列举了“禁止的人工智能实践类型”的例外情形：
一是为国家安全、国防和军事目的。如果AI系统是“专门用于军事、国防或国家安全目的而投放市场、投入使用的”，则不在其管辖范围内。
二是与第三国进行司法和执法合作。当第三国的公共机关或国际组织在与欧盟或某个成员国进行执法和司法合作的过程中使用AI系统，并且能够为个人基本权利和自由提供足够保障时，则《人工智能法》不适用于这些机关或组织。
三是研发活动。根据《人工智能法》第2（８）条，“不适用于人工智能系统或模型在投放市场或投入使用之前的任何研究、测试或开发活动” ，这一例外条款符合《人工智能法》基于市场的逻辑——其适用范围仅限于已投放市场或投入使用的AI系统。
四是个人非专业活动。《人工智能法》第2（10）条规定，“不适用于自然人在纯粹个人非职业活动中使用系统”。
五是开源许可下发布的人工智能系统。根据《人工智能法》第2（12）条的规定，不适用于免费和开源的AI系统，除非这些系统作为高风险AI系统投放市场或投入使用，或者属于《人工智能法》第5条（禁止的AI实践）或第50条（某些AI系统的透明度义务）所涵盖的范围。
（三）基于风险的方法
指南遵循基于风险的方法，概述了由于对欧洲价值观和基本权利存在潜在风险而被视为不可接受的人工智能实践。
指南强调，禁止使用进行实时生物特征识别的人工智能系统（例如公共场所的实时面部识别），但搜寻失踪人员等特定受害者、预防恐怖袭击等迫在眉睫的威胁以及搜寻严重犯罪嫌疑人除外。
指南强调，推断情绪的人工智能系统一般被禁止在工作场所和教育机构中使用，除非出于医疗或安全原因，并且系统必须获得 CE 标志才有资格适用欧盟《人工智能法》下的例外情形。
指南明确，医疗保健服务和社会保障福利被归类为高风险，禁止使用仅通过分析来预测医疗状况而没有客观医疗数据的人工智能。例如，禁止人工智能系统评估人员并确定他们是否有权获得基本公共援助福利和服务。
指南澄清，使用潜意识技术的人工智能系统并不总是有害的。例如，允许使用治疗聊天机器人通过微妙的劝说引导用户戒烟。
（四）罚款与监管
对于违规企业，最高可处以3500万欧元或全球年营业额7%的罚款（以较高者为准）。公共机构的罚款上限为150万欧元。
三、总结
指南是《人工智能法》的重要补充，尽管不具备法律约束力，但提供了法律解释和实际示例，以帮助利益相关者理解和遵守《人工智能法》的要求，为《人工智能法》的执行提供了重要参考。
尽管指南为人工智能开发提供了明确的方向，但也引发了一些争议，例如，美国科技公司认为欧洲的监管环境过于严格，可能阻碍创新。此外，欧盟内部也存在对法规重叠和行政负担的批评，部分企业呼吁简化监管流程以促进人工智能发展。
欧盟这一举措强调了欧盟致力于促进安全和道德的人工智能环境，然而，如何在监管与创新之间找到平衡，仍是当前面临的主要挑战。
2.https://www.mobihealthnews.com/news/eu-issues-guidelines-banned-ai-practices
来源：CAICT互联网法律研究中心
