石小雨（Catherine Shi）律师作为DKL的联席合伙人及海外业务负责人，希望将简律师对于人工智能伦理的国际视角分享给各位。

2018年9月28日，在香港律师会举办的第二届「一带一路」论坛结束时，来自17个法域的34个法律协会签署了「成立法律科技联盟的宣言」，同意成立「法律科技联盟」，推动「一带一路」律师所适用的人工智能道德框架。该宣言的内容如下：

我们，即下方签约协会，共同支持创新和科技发展。我们同时意识到，在全球各地设计、发展和应用人工智能，正存在着法律和道德方面的挑战，并可能对人类构成威胁。众多问题包括：应否在战争、罪犯特征分析和识别中对人类使用人工智能；机器之间的通讯以及由它们所作出的决策可否做到公平及由人类智慧审查；人工智能对数据保障和私隐的权利及期望所带来的影响；传统工作被取代的速度以及新工作的能力建设等。这些问题都需要被处理。因此，我们同意携手合作，从法律角度提出并以批判性思维审视相关问题，提高公众的意识，以及向我们各地的政府和联合国大会提出意见。

除香港律师会外，成立法律科技联盟宣言的34个签署方还包括15个中国内地的法律协会、台湾律师联合会、澳门律师公会、格但斯克律师协会、贝鲁特律师协会、捷克律师协会、俄罗斯联邦律师协会、法国国家律师协会、印度国家律师协会、卢森堡律师协会、米兰律师协会、蒙古律师会、缅甸律师协会、德国联邦律师公会、文莱达鲁萨兰律师协会、新加坡律师公会等。

在2021年11月24日在巴黎举行的「联合国教育、科学及文化组织（教科文组织）大会」第四十一届会议上，193个会员国通过决议，采纳「人工智能伦理问题建议书」（”《建议书》”），这是会员国在教科文组织大会上通过的首个人工智能伦理全球标准。教科文组织总干事Audrey Azoulay表示，这一历史性文本确定了有关人工智能共同的价值观和原则，用以指导建设确保人工智能的健康发展所必需的法律框架。这个消息实在令人鼓舞。

或许值得注意的是，中国是教科文组织的会员国，而美国并不是，因为特朗普总统于2017年宣布美国退出教科文组织。

《建议书》的序言指出了《建议书》广阔的前提，阐述了为何《建议书》变得极为重要：

1.人工智能（AI）从正负两方面对社会、环境、生态系统和人类生活包括人类思想具有深刻而动态的影响。

2.人工智能技术既可以对人类大受裨益并惠及所有国家，但也会引发根本性的伦理关切。人工智能技术会加深世界各地国家内部和国家之间现有的鸿沟和不平等。人工智能技术可以带来重大惠益，但也会加剧围绕创新产生的矛盾冲突、知识和技术获取不对称。必须维护正义、信任和公平，不让任何国家和任何人掉队。

3.以国际法为依据、采用全球方法制定且注重人的尊严和人权以及性别平等、社会和经济正义与发展、身心健康、多样性、互联性、包容性、环境和生态系统保护的准则性文书，可以引导人工智能技术向着负责任的方向发展。

《建议书》把人工智能系统定义为有能力以类似于智能行为的方式处理类据和信息的系统，通常包括推理、学习、感知、预测、规划或控制等方面。

《建议书》主要旨在提供基础，让人工智能系统可以造福人类，同时防止危害。《建议书》的目标是依照国际法，提供一个由价值观、原则和行动构成的普遍框架，指导各国制定与人工智能有关的立法、政策或其他文书。

当中提出的价值观包括尊重、保护和促进人权和基本自由以及人的尊严。应在人工智能系统的整个生命周期内确认、保护和促进环境和生态系统的蓬勃发展，以及确保多样性和包容性。此外，人工智能行为者应为确保建设和平与公正的社会发挥参与和促进作用，这种社会的根基是惠及全民的相互关联的未来。

《建议书》制定了以下基本原则：

1.人工智能系统生命周期应具备相称性，不得超出实现合法目的或目标所需的范围。在所涉决定具有不可逆转或难以逆转的影响或涉及生死抉择的情况下，应由人类作出最终决定。人工智能系统尤其不得用于社会评分或大规模监控目的。

2.应避免安全和安保风险。开发可持续和保护隐私的数据获取框架，促进利用优质数据更好地训练和验证人工智能模型，便可实现有安全和安保保障的人工智能。

3.人工智能行为者应根据国际法，促进社会正义并保障一切形式的公平和非歧视。

4.人工智能技术的出现可能有利于可持续性目标，但也可能阻碍这些目标的实现。因此，在就人工智能技术开展持续评估时，应考虑对一套涉及多方面的动态目标（例如目前在联合国可持续发展目标中认定的目标）的可持续性的影响。

5.隐私权和数据保护应受司法系统监察。

6.始终有可能将人工智能系统生命周期的任何阶段以及与人工智能系统有关的补救措施的伦理和法律责任归属于自然人或现有法人实体。生死攸关的决定不应让给人工智能系统来作出。人类监督也指公共监督。

7.人工智能系统的透明度和可解释性往往是确保人权、基本自由和伦理原则得到尊重、保护和促进的必要先决条件。透明度是相关国家和国际责任制度有效运作的必要因素。缺乏透明度还可能削弱对根据人工智能系统产生的结果所作决定提出有效质疑的可能性，进而可能侵犯获得公平审判和有效补救的权利，并限制这些系统的合法使用领域。

8.应建立适当的监督、影响评估、审计和尽职调查机制，包括保护举报者，确保在人工智能系统的整个生命周期内对人工智能系统及其影响实施问责。技术和体制方面的设计都应确保人工智能系统可审计和可追溯，特别是要应对与人权规范和标准之间的冲突以及对环境和生态系统福祉的威胁。

9.应通过开放且可获取的教育、公民参与、数字技能和人工智能伦理问题培训、媒体与信息素养及培训，促进公众对人工智能技术和数据价值的认识和理解。

10.不同利益攸关方对人工智能系统整个生命周期的参与，是采取包容性办法开展人工智能治理、使惠益能够为所有人共享以及推动可持续发展的必要因素。

因此，教科文组织将采取如下政策行动，以促进有效落实《建议书》：(1)制定准备状态评估方法，协助有关会员国确定其准备进程各方面在特定时刻的所处状态；及(2)确保支持有关会员国制定教科文组织人工智能技术伦理影响评估（EIA）方法，分享最佳做法、评估准则、其他机制和分析工作。

另一方面，各国政府采用监管框架，其中特别针对公共管理部门提出人工智能系统伦理影响评估程序，以预测后果、减少风险、避免有害后果、促进公民参与并应对社会挑战。

会员国应建立治理和管理制度，确保调查并补救人工智能系统造成的损害，建立人工智能系统认证机制和此类认证的相互承认。会员国在制定监管框架时，应考虑到最终责任和问题必须总是落实到自然人或法人身上，人工智能系统本身不应被赋予法人资格。

会员国应努力制定数据治理战略，确保持续评估人工智能系统训练数据的质量。会员国应确保个人可以保留对其个人数据的权利。

会员国和跨国公司应优先考虑人工智能伦理，在相关国际、政府间和多利益攸关方论坛上讨论与人工智能有关的伦理问题。

在人工智能系统的整个生命周期内，会员国和工商企业应评估对环境产生的直接和间接影响，包括但不限于其碳足迹、能源消耗以及为支持人工智能技术制造而开采原材料对环境造成的影响，并应减少人工智能系统和数据基础设施造成的环境影响。

会员国应确保数字技术和人工智能充分发挥促进实现性别平等的潜能。其伦理影响评估应包含横向性别平等视角。

会员国应促进在人工智能和知识产权的交汇点上开展新的研究，例如确定是否或如何对通过人工智能技术创作的作品给予知识产权保护。

会员国应与国际组织、教育机构、私营实体和非政府实体合作，在各个层面向所有国家的公众提供充分的人工智能素养教育，以增强人们的权能，减少因广泛采用人工智能系统而造成的数字鸿沟和数字获取方面的不平等。

会员国应利用人工智能系统改善信息和知识的获取。

会员国应评估并处理人工智能系统对所有国家劳动力市场的冲击及其对教育要求的影响，同时特别关注经济属于劳动密集型的国家。

会员国应努力利用有效的人工智能系统来改善人类健康并保护生命权，包括减少疾病的爆发。尽管《建议书》并无明示，但这必意味着改善获得卫生保健和预防疾病爆发。

会员国应制定关于人机互动及其对人际关系所产生影响的准则，并特别关注人类身心健康，尤其应关注应用于卫生保健以及老年人和残障人士护理的机器人、应用于教育的机器人、儿童用机器人、现具机器人、聊天机器人以及儿童和成人陪伴机器人的使用问题。应特别注意到利用人工智能操控和滥用人类认知偏差的可能。会员国应实施政策，提高人们对于人工智能技术以及能够识别和模仿人类情绪的技术拟人化的认识，特别是在人机互动的情况下和涉及到儿童时。

在监测和评估方面，《建议书》提议制定教科文组织伦理影响评估方法和建立国家人工智能伦理委员会。

《建议书》仅提出一系列建议。各个国家决定是否采取行动及采取何种程度的行动，但正如教科文组织总干事Audrey Azoulay所说：「世界需要为人工智能制定规则以造福人类。《建议书》是一个重要的举措，它制定了首个规范性全球框架，同时赋予各国在相应层面应用该框架的责任。教科文组织将支持其193个会员国落实《建议书》的内容，并要求它们定期报告相关进展和做法。」

《建议书》的编制过程漫长、密集而具启发性，确实为基于国际公认的人工智能伦理理解的立法，创造了浓厚的兴趣和动力。《建议书》的发布无疑会对欧盟委员会于2021年4月21日提出的《人工智能法草案》的谈判产生重大影响。如获欧洲议会通过，该法案将是世界上首部具有法律约束力的人工智能法律。

立法是正确的做法，是推进法治所必须的，根据兵咸勋爵（Lord Bingham）的说法，法治的核心原则是「国家内所有人和权力机关，不论公营或私营，都应当受法律约束，并有权享有法律带来的裨益。法律必须公开制定，（一般）只在将来生效，并在法院公开施行。」

我们正在见证元宇宙的诞生。我们生活在一个数字世界。

既然有34个法律协会表达了强烈关注，签署成立法律科技联盟的宣言，并在第二届「一带一路」论坛上就人工智能的伦理界限展开激烈辩论，香港律师会将义不容辞，贯彻宣言的宗旨和目标，再次召集这34个法律协会和其他志同道合的组织，建立平台讨论人工智能的国际示范法和在以联合国为中心、以规则为基础的世界秩序的数字世界中建立法治。

注释：

[1]徳和衡前海办公室是大湾区首家粤港澳三地联营的律师事务所，有资格同时提供中国法及外国法服务，联营所除了中国律师、香港律师、澳门律师，亦注册了许多外国律师，例如日本、澳洲、加拿大、葡萄牙等等。

[2]香港简家骢律师行（“FKC”）是DKL的香港联营主体。成立40年以来，FKC一直稳步向中国大陆地区和日本扩张，积累了全球合作资源网络。FKC是一家综合性的香港律师行，尤其擅长处理重大复杂的法律事务。如想进一步了解，请查看随附链接：http://www.fredkan.com/zh-cn/fred02/。

?以上内容不构成法律建议，如需任何境外法律服务，请随时与本所如下律师联系

石小雨（Catherine Shi）

香港及前海办公室律师

Catherine是徳和衡前海办公室的海外业务负责人，也是其香港联营所的注册律师，她在中国内地和香港有近十年的法律服务经验。凭借其深厚的中国法和普通法背景，她最擅长为中国客户提供海外法律解决方案，尤其是统筹跨国家和跨法域的复杂诉讼和交易。

业务领域：境外基金和信托、跨境诉讼和投融资纠纷

手机：+86 15546708166 / +852 92989129

邮箱：catherineshi@deheheng.com

作者简介

简家骢

DKL香港创始合伙人