欧盟人工智能战略框架下的伦理准则及其国际含义
作者：殷佳章 房乐宪
| 文章来源：http://www.cssn.cn
| 更新时间：2020-07-10 10:53:00
2020年06月28日 09:21 来源：《国际论坛》2020年第3期
近年来，人工智能发展迅猛，已成为21世纪最为重要的战略核心技术之一。为抓住这一重要战略机遇，欧盟自2018年以来先后出台《欧洲人工智能》与《人工智能协调计划》两个重要政策文件，初步勾勒出欧盟人工智能的发展战略框架。2019年4月，欧盟在此基础上发布了欧盟版人工智能伦理准则，进一步完善并细化了相关战略。欧盟此举是其适应人工智能发展新态势、发挥自身规范性力量优势做出的重要战略回应。
一、欧盟人工智能战略框架的目标追求及行动计划
（一）《欧洲人工智能》政策文件的出台
2018年4月25日，欧盟委员会发布了题为《欧洲人工智能》的政策文件，首次系统地提出了欧盟版的人工智能发展战略规划。欧盟在该政策文件中提出了首个欧洲人工智能倡议，并确定了欧洲人工智能发展的三大目标：（1）提升欧盟技术、产业能力，推进人工智能的广泛应用。（2）为应对人工智能技术可能带来的社会经济变革做好准备。（3）在欧盟现有价值观与《欧盟基本权利宪章》的基础上，确立合适的人工智能伦理与法律框架。作为该政策文件的核心内容，三大目标明确了欧盟人工智能发展的总体原则，为后续政策文件的出台提供了指导方针。
（二）欧盟《人工智能协调计划》及行动要点
2018年12月7日，欧盟委员会正式发布了《人工智能协调计划》（以下简称《协调计划》）。该计划指出，要发展符合伦理规范、安全可靠、技术先进的“欧洲制造”人工智能技术，确保欧盟人工智能战略的顺利实施，欧盟层面的协调与统一必不可少。为此，《协调计划》在三大总体目标的基础上，提出了八项具体目标与动议：
第一，完善战略布局，促进战略协调。第二，多方合作，最大限度增加投资。欧盟将通过政府与社会资本合作，统筹欧盟、成员国、私营部门三方的项目与投资，制定共同的人工智能研发议程。第三，产研结合，提升科研能力，加速人工智能技术的推广与应用。第四，培养专业人才，提升全民技能。这既包括完善对尖端专业人才的培养体系，建立健全人才保障机制，也包括对全社会劳动力相关技能的培训与提升，推动人工智能解决方案在社会范围内的广泛运用。第五，数据共享，创建欧盟共同数据空间。第六，建立人工智能伦理监管框架。第七，鼓励人工智能在公共部门的广泛应用。通过在政府与公共部门引进人工智能解决方案，改善服务质量、提高工作效率、提升管理水平。第八，加强人工智能国际合作。
简言之，《欧洲人工智能》政策文件明确了欧盟人工智能发展的三项重要任务，构建起欧盟人工智能战略的核心框架。《协调计划》八项动议的提出则进一步细化了欧盟在2019—2020年的阶段性政策措施，在许多重要方面对欧盟人工智能发展做出了具体规划。
二、欧盟人工智能伦理准则的出台及其核心内涵
2019年4月8日《伦理准则》的最终版本《可信人工智能伦理准则》（以下简称《伦理准则》）与欧盟委员会的相应政策文件《建立以人为本的可信人工智能》（以下简称《伦理政策文件》）同时发布，欧盟版的人工智能伦理准则终于面世。
《伦理准则》将“以人为本”（human-centric）作为发展人工智能技术的核心要义。基于此，欧盟结合自身的价值观，将尊重人类尊严、自由、民主、平等、法治以及人权的观念融入准则之中，并提出了实现可信人工智能的三大要素：（1）人工智能应遵守相关法律法规；（2）人工智能应符合相应伦理准则与价值观要求；（3）人工智能应在技术与社会层面具有稳健性。三大要素明确了发展的总体目标与要求，是实现可信人工智能的充分必要条件，以此为基础，欧盟初步形成了人工智能伦理准则的核心框架，主要包含可信人工智能的基础原则、可信人工智能的要求及实现手段、可信人工智能的评估机制三个部分。
（一）可信人工智能的基础原则
核心框架的第一部分阐述了人工智能系统在发展、部署以及使用过程中必须遵守的伦理原则与价值观，包括发展可信人工智能的基本权利要求，以及由此引申出的四条伦理原则。
就基本权利要求而言，欧盟根据《欧洲联盟条约》《欧盟基本权利宪章》以及国际人权法的相关规定，提出了针对人工智能系统的五点基本权利要求：（1）尊重人的尊严；（2）维护个人自由；（3）尊重民主、正义与法治；（4）促进平等、非歧视与团结；（5）保障公民权利。在此基础上，欧盟进一步提出了四条伦理原则：第一，人类自治原则。第二，避免伤害原则。第三，公平原则。第四，可解释性原则。
（二）可信人工智能的要求及实现手段
核心框架的第二部分以五项基本权利与四条伦理原则为中心，进一步细化并扩展出实现可信人工智能的七条具体要求，以及用以实施的技术性与非技术性手段，这也是整个《伦理准则》最为重要的部分。
就具体要求而言，欧盟提出了适用于人工智能系统整个生命周期，覆盖研发者、操作者、终端用户以及社会大众各类群体的七条关键要求：第一，坚持人的自主和监管。第二，保持技术稳健与安全。第三，重视隐私与数据治理。第四，维护透明性原则。第五，坚持多样性、非歧视与公平原则。第六，维护社会与环境福祉。第七，坚持可追责性原则。
就实施手段而言，欧盟提出了十三条具体措施，按其性质不同可分为技术性手段和非技术性手段两大类。其中，技术性手段主要侧重人工智能系统的设计与研发阶段，包含建立可信人工智能框架、坚持伦理与法治的设计原则、保证人工智能系统的可解释性、加强对人工智能系统的测试和验证、建立服务质量指标体系五项内容。非技术性手段相对更加关注人工智能系统的使用与监管，主要涉及健全监管法规、出台相应行为准则、设定行业标准、建立资质审核机制、以治理框架实现问责制、通过教育提升伦理意识、确保各方的广泛参与和沟通、维护设计团队的多样性和包容性。
（三）可信人工智能的评估机制
核心框架的第三部分提供了可信人工智能的评估清单，旨在更好实现此前部分提出的相关要求。评估清单共分为七个方面，分别对应实现可信人工智能的七条关键伦理要求。该清单将应用于人工智能系统开发、部署以及使用的各个阶段，欧盟鼓励各相关方在实践中依据实际情况，反馈清单在实用性、完整性以及适切性方面的相关问题。高级专家组将根据反馈对评估清单进行修改，并于2020年初出台修订版的评估清单。
三、欧盟人工智能伦理准则出台的动因及其国际含义
《伦理准则》的提出对欧盟的人工智能战略框架做了补充与细化，是欧盟适应新时期科技发展要求、维护自身国际竞争地位的重要战略举措，欧盟人工智能伦理准则出台有其深刻原因，其蕴含的国际政治经济含义值得关注。
首先，欧盟已充分意识到人工智能技术的重要作用与巨大潜力，认定规范人工智能技术发展有利于欧盟把握当前难得的发展机遇，提升自身国际竞争力。随着科技的不断发展，人工智能在医疗卫生、节能减排、智能汽车以及智能农业等不同领域都发挥着越来越重要的作用。
其次，《伦理准则》是欧盟人工智能战略框架体系的重要组成部分，符合欧盟的发展战略需要。早在2017年10月，欧洲理事会就提出欧盟迫切需要在发展新兴人工智能技术的同时，“确保高水平的数据与数字版权保护，设立相应的伦理标准”。
再次，欧盟意识到人工智能技术的快速发展在促进社会进步与经济发展的同时，也带来了诸多法律、伦理方面的挑战，欧盟迫切需要以政策手段进行预防与应对。
最后，中美两国在人工智能研发与应用方面的发展给欧盟带来巨大压力，《伦理准则》的出台与推广体现了欧盟增强自身规范性力量，进而争取国际规则制定权的重要考量。
由于在当今的国际竞争中，技术标准正成为国际规则制定权之争的重点，而所有国际规则又都是依据相关事物的最优水平制定的，欧盟在人工智能技术研发与投资方面优势正在逐渐丧失，因此其技术规则制定的话语权也受到了影响。在此背景下，欧盟要想把握人工智能这一发展机遇，只能另辟蹊径，以自身擅长的规范领域——伦理准则作为突破口。一方面，相较于技术标准的制定，伦理准则的制定对资金与技术的要求相对较低。另一方面，欧盟已经出台了不少关于数据保护、网络安全的规章制度，形成了较为完备的政策框架体系，为人工智能伦理准则的提出奠定了基础。《伦理准则》的出台可被视为欧盟适应人工智能发展新态势、发挥自身机制优势做出的战略举措。
四、结语：对中国的启示
欧盟人工智能伦理准则是欧盟人工智能战略框架的重要组成部分，是欧盟把握当前发展机遇，适应发展新态势、应对发展新挑战做出的重要举措。欧盟为此做出的努力对于同样致力于发展人工智能技术的中国有重要启示意义。
首先，保持相对优势，大力推动人工智能技术的发展，不断完善政策体系框架。未来中国应积极借鉴包括欧洲在内的国外同行的先进理念，持续推动人工智能产业的不断发展，并依据实际情况对相关政策体系，特别是具体行动计划进行适时调整与完善。
其次，重视人工智能的伦理挑战，抓紧建立并完善官方伦理监管体系。中国人工智能伦理监管体系的建设还有待加强。同时，中国人工智能技术的高速发展衍生出的诸多问题也迫切需要官方出台相关准则进行规范。值得肯定的是，为应对这一状况，中国已经展开了相应行动。
最后，积极参与并推动国际人工智能伦理标准的制定。中国应重视并积极参与人工智能国际标准，特别是人工智能伦理准则的讨论和制定，力争掌握相应国际竞争的主动权。
（作者单位：中国人民大学国际关系学院；中国人民大学欧盟研究中心。《国际论坛》2020年第3期。中国社会科学网 汪书丞/摘）
http://www.cssn.cn/gjgxx/gj_ozyj/202006/t20200628_5148070.html
近年来，人工智能发展迅猛，已成为21世纪最为重要的战略核心技术之一。为抓住这一重要战略机遇，欧盟自2018年以来先后出台《欧洲人工智能》与《人工智能协调计划》两个重要政策文件，初步勾勒出欧盟人工智能的发展战略框架。2019年4月，欧盟在此基础上发布了欧盟版人工智能伦理准则，进一步完善并细化了相关战略。欧盟此举是其适应人工智能发展新态势、发挥自身规范性力量优势做出的重要战略回应。
一、欧盟人工智能战略框架的目标追求及行动计划
（一）《欧洲人工智能》政策文件的出台
2018年4月25日，欧盟委员会发布了题为《欧洲人工智能》的政策文件，首次系统地提出了欧盟版的人工智能发展战略规划。欧盟在该政策文件中提出了首个欧洲人工智能倡议，并确定了欧洲人工智能发展的三大目标：（1）提升欧盟技术、产业能力，推进人工智能的广泛应用。（2）为应对人工智能技术可能带来的社会经济变革做好准备。（3）在欧盟现有价值观与《欧盟基本权利宪章》的基础上，确立合适的人工智能伦理与法律框架。作为该政策文件的核心内容，三大目标明确了欧盟人工智能发展的总体原则，为后续政策文件的出台提供了指导方针。
（二）欧盟《人工智能协调计划》及行动要点
2018年12月7日，欧盟委员会正式发布了《人工智能协调计划》（以下简称《协调计划》）。该计划指出，要发展符合伦理规范、安全可靠、技术先进的“欧洲制造”人工智能技术，确保欧盟人工智能战略的顺利实施，欧盟层面的协调与统一必不可少。为此，《协调计划》在三大总体目标的基础上，提出了八项具体目标与动议：
第一，完善战略布局，促进战略协调。第二，多方合作，最大限度增加投资。欧盟将通过政府与社会资本合作，统筹欧盟、成员国、私营部门三方的项目与投资，制定共同的人工智能研发议程。第三，产研结合，提升科研能力，加速人工智能技术的推广与应用。第四，培养专业人才，提升全民技能。这既包括完善对尖端专业人才的培养体系，建立健全人才保障机制，也包括对全社会劳动力相关技能的培训与提升，推动人工智能解决方案在社会范围内的广泛运用。第五，数据共享，创建欧盟共同数据空间。第六，建立人工智能伦理监管框架。第七，鼓励人工智能在公共部门的广泛应用。通过在政府与公共部门引进人工智能解决方案，改善服务质量、提高工作效率、提升管理水平。第八，加强人工智能国际合作。
简言之，《欧洲人工智能》政策文件明确了欧盟人工智能发展的三项重要任务，构建起欧盟人工智能战略的核心框架。《协调计划》八项动议的提出则进一步细化了欧盟在2019—2020年的阶段性政策措施，在许多重要方面对欧盟人工智能发展做出了具体规划。
二、欧盟人工智能伦理准则的出台及其核心内涵
2019年4月8日《伦理准则》的最终版本《可信人工智能伦理准则》（以下简称《伦理准则》）与欧盟委员会的相应政策文件《建立以人为本的可信人工智能》（以下简称《伦理政策文件》）同时发布，欧盟版的人工智能伦理准则终于面世。
《伦理准则》将“以人为本”（human-centric）作为发展人工智能技术的核心要义。基于此，欧盟结合自身的价值观，将尊重人类尊严、自由、民主、平等、法治以及人权的观念融入准则之中，并提出了实现可信人工智能的三大要素：（1）人工智能应遵守相关法律法规；（2）人工智能应符合相应伦理准则与价值观要求；（3）人工智能应在技术与社会层面具有稳健性。三大要素明确了发展的总体目标与要求，是实现可信人工智能的充分必要条件，以此为基础，欧盟初步形成了人工智能伦理准则的核心框架，主要包含可信人工智能的基础原则、可信人工智能的要求及实现手段、可信人工智能的评估机制三个部分。
（一）可信人工智能的基础原则
核心框架的第一部分阐述了人工智能系统在发展、部署以及使用过程中必须遵守的伦理原则与价值观，包括发展可信人工智能的基本权利要求，以及由此引申出的四条伦理原则。
就基本权利要求而言，欧盟根据《欧洲联盟条约》《欧盟基本权利宪章》以及国际人权法的相关规定，提出了针对人工智能系统的五点基本权利要求：（1）尊重人的尊严；（2）维护个人自由；（3）尊重民主、正义与法治；（4）促进平等、非歧视与团结；（5）保障公民权利。在此基础上，欧盟进一步提出了四条伦理原则：第一，人类自治原则。第二，避免伤害原则。第三，公平原则。第四，可解释性原则。
（二）可信人工智能的要求及实现手段
核心框架的第二部分以五项基本权利与四条伦理原则为中心，进一步细化并扩展出实现可信人工智能的七条具体要求，以及用以实施的技术性与非技术性手段，这也是整个《伦理准则》最为重要的部分。
就具体要求而言，欧盟提出了适用于人工智能系统整个生命周期，覆盖研发者、操作者、终端用户以及社会大众各类群体的七条关键要求：第一，坚持人的自主和监管。第二，保持技术稳健与安全。第三，重视隐私与数据治理。第四，维护透明性原则。第五，坚持多样性、非歧视与公平原则。第六，维护社会与环境福祉。第七，坚持可追责性原则。
就实施手段而言，欧盟提出了十三条具体措施，按其性质不同可分为技术性手段和非技术性手段两大类。其中，技术性手段主要侧重人工智能系统的设计与研发阶段，包含建立可信人工智能框架、坚持伦理与法治的设计原则、保证人工智能系统的可解释性、加强对人工智能系统的测试和验证、建立服务质量指标体系五项内容。非技术性手段相对更加关注人工智能系统的使用与监管，主要涉及健全监管法规、出台相应行为准则、设定行业标准、建立资质审核机制、以治理框架实现问责制、通过教育提升伦理意识、确保各方的广泛参与和沟通、维护设计团队的多样性和包容性。
（三）可信人工智能的评估机制
核心框架的第三部分提供了可信人工智能的评估清单，旨在更好实现此前部分提出的相关要求。评估清单共分为七个方面，分别对应实现可信人工智能的七条关键伦理要求。该清单将应用于人工智能系统开发、部署以及使用的各个阶段，欧盟鼓励各相关方在实践中依据实际情况，反馈清单在实用性、完整性以及适切性方面的相关问题。高级专家组将根据反馈对评估清单进行修改，并于2020年初出台修订版的评估清单。
三、欧盟人工智能伦理准则出台的动因及其国际含义
《伦理准则》的提出对欧盟的人工智能战略框架做了补充与细化，是欧盟适应新时期科技发展要求、维护自身国际竞争地位的重要战略举措，欧盟人工智能伦理准则出台有其深刻原因，其蕴含的国际政治经济含义值得关注。
首先，欧盟已充分意识到人工智能技术的重要作用与巨大潜力，认定规范人工智能技术发展有利于欧盟把握当前难得的发展机遇，提升自身国际竞争力。随着科技的不断发展，人工智能在医疗卫生、节能减排、智能汽车以及智能农业等不同领域都发挥着越来越重要的作用。
其次，《伦理准则》是欧盟人工智能战略框架体系的重要组成部分，符合欧盟的发展战略需要。早在2017年10月，欧洲理事会就提出欧盟迫切需要在发展新兴人工智能技术的同时，“确保高水平的数据与数字版权保护，设立相应的伦理标准”。
再次，欧盟意识到人工智能技术的快速发展在促进社会进步与经济发展的同时，也带来了诸多法律、伦理方面的挑战，欧盟迫切需要以政策手段进行预防与应对。
最后，中美两国在人工智能研发与应用方面的发展给欧盟带来巨大压力，《伦理准则》的出台与推广体现了欧盟增强自身规范性力量，进而争取国际规则制定权的重要考量。
由于在当今的国际竞争中，技术标准正成为国际规则制定权之争的重点，而所有国际规则又都是依据相关事物的最优水平制定的，欧盟在人工智能技术研发与投资方面优势正在逐渐丧失，因此其技术规则制定的话语权也受到了影响。在此背景下，欧盟要想把握人工智能这一发展机遇，只能另辟蹊径，以自身擅长的规范领域——伦理准则作为突破口。一方面，相较于技术标准的制定，伦理准则的制定对资金与技术的要求相对较低。另一方面，欧盟已经出台了不少关于数据保护、网络安全的规章制度，形成了较为完备的政策框架体系，为人工智能伦理准则的提出奠定了基础。《伦理准则》的出台可被视为欧盟适应人工智能发展新态势、发挥自身机制优势做出的战略举措。
四、结语：对中国的启示
欧盟人工智能伦理准则是欧盟人工智能战略框架的重要组成部分，是欧盟把握当前发展机遇，适应发展新态势、应对发展新挑战做出的重要举措。欧盟为此做出的努力对于同样致力于发展人工智能技术的中国有重要启示意义。
首先，保持相对优势，大力推动人工智能技术的发展，不断完善政策体系框架。未来中国应积极借鉴包括欧洲在内的国外同行的先进理念，持续推动人工智能产业的不断发展，并依据实际情况对相关政策体系，特别是具体行动计划进行适时调整与完善。
其次，重视人工智能的伦理挑战，抓紧建立并完善官方伦理监管体系。中国人工智能伦理监管体系的建设还有待加强。同时，中国人工智能技术的高速发展衍生出的诸多问题也迫切需要官方出台相关准则进行规范。值得肯定的是，为应对这一状况，中国已经展开了相应行动。
最后，积极参与并推动国际人工智能伦理标准的制定。中国应重视并积极参与人工智能国际标准，特别是人工智能伦理准则的讨论和制定，力争掌握相应国际竞争的主动权。
（作者单位：中国人民大学国际关系学院；中国人民大学欧盟研究中心。《国际论坛》2020年第3期。中国社会科学网 汪书丞/摘）
http://www.cssn.cn/gjgxx/gj_ozyj/202006/t20200628_5148070.html