拟定人工智能伦理问题建议书

© Getty Images / ipopba

人工智能与我们……

今天,人工智能影响着数十亿人的生活。它正改变我们的社会,并对“人”的含义提出挑战,虽然有时我们并没有注意到这些挑战,但它们往往会产生深远的影响。

人工智能可以为数百万学生完成中等教育提供支持,并带来额外的330万个工作岗位,更紧迫的是,它可以帮助我们应对新冠肺炎疫情的传播和影响。虽然这些技术具有多种优势,但同时也因恶意使用而产生了负面风险和挑战,加深了不平等和分歧。

我们需要国际、国家层面的政策和监管框架来确保这些新兴技术造福全人类。

我们需要以人为本的人工智能。人工智能必须为人类的更大利益服务,而不是反其道而行之。

联合国教科文组织提出制定一份全面的全球性规范文书,为人工智能提供坚实的伦理基础,不仅保护,更会促进人权和人类的尊严。一旦获得通过,它将成为指导性的伦理指南和全球性的准则根基,使人们能够在数字世界中建立对法治的尊重。

关于人工智能,你需要知道的5件事

  • 人工智能已经在新冠疫情的防控中证明了其价值

通过数字平台,人工智能有助于减缓健康危机造成的经济影响。它还帮助争分夺秒研发疫苗和治疗方法的研究人员处理大量数据。人工智能通过测试、跟踪和追踪技术,参与切断病毒传播的工作。然而,随着人们需要越来越多地交出个人数据,人工智能在这场疫情期间的使用重新引发了人们对隐私、数据保护和在追踪病毒需求之外使用数据的担忧。

  • 人工智能驱动的经济增长可能极度不平等

到2022年,人工智能将创造近4万亿美元的附加值。到2030年,预计中国和北美将获得最大的经济收益,占人工智能全球经济影响的70%。人工智能存在“赢家通吃”的态势,需要加以规范:如果人工智能集中在少数高收入国家,则很可能把发展中国家远远甩在后面。后者将不能从人工智能技术中获益或获益甚微,并且缺乏对此类技术的所有权。

  • 人工智能会拉大现有的性别差距

仅22%的人工智能从业者是女性。由于女性在行业中的代表性不足,性别偏见和刻板印象正在人工智能技术中重现。Siri、Alexa或Cortana等虚拟个人助理被默认为“女性”形象并非巧合。它们所表现出的服从性和顺从性,正是人工智能如何(继续)强化和传播我们社会中的性别偏见的一个例子。 

  • 人工智能可以成为解决气候变化和环境问题的有力工具

随着地球持续变暖,气候变化的影响正在恶化。通过收集和分析数据,由人工智能驱动的模型可以帮助改善生态系统管理和生境恢复,这对缓解鱼类和野生动物数量的下降至关重要。即便如此,数据提取消耗了全球近10%的能源。因此,解决人工智能的高能耗以及由此带来的碳排放影响也至关重要。

  • 人工智能不能成为法律禁区

人工智能已进入我们的生活,指导我们做出选择,但往往可能造成有害影响。人工智能行业及周边存在一些立法真空亟需填补。第一步是要商定需要奉行哪些具体的价值观,需要执行哪些规则。目前存在许多框架和准则,但执行起来却参差不齐,并且没有一个框架或准则真正具有全球性。人工智能是全球性的,这就是为什么我们需要一个全球性的工具来监管它。

活动

建议书

根据2019年11月召开的联合国教科文组织大会第四十届会议决定,本组织已着手拟定第一份关于人工智能伦理的全球准则性文书,这一工作将历时2年。

2020年的工作重点是在特设专家组的协助下拟定建议书草案文本。这一阶段将包括与众多不同的利益攸关方进行广泛的多学科协商。这些协商对于确保草案文本尽可能全面极为重要。

到2020年底和2021年,工作重点将放在政府间进程和草案文本磋商上,以确定建议书的最终版本,等待2021年底第四十一届教科文组织大会通过。

教科文组织关于该建议书的工作以教科文组织世界科学知识与技术伦理委员会(COMEST)开展的关于人工智能伦理问题的初步研究为基础。这项研究强调,目前还没有一份全球性文书涵盖指导人工智能以人为本地发展和应用的所有领域。

人工智能伦理建议书草案的修订

教科文组织任命了24名专家组成国际专家组,来拟订建议书草案。2020年8月31日至9月4日,专家组在线工作,对已于2020年5月发布初稿进行了修订。

在过去3个月中,经过与多方利益相关者的广泛磋商之后,我们收集了对建议书初稿草案的意见、印象和建议。 以这些贡献为基础,特设专家组(AHEG)制订了人工智能伦理建议书草案修订版,并已于2020年9月提交各成员国征求意见。各成员国提交意见的截止时间为2020年12月31日。

 

多方利益相关者咨询程序

特设专家组于2020年5月完成《人工智能伦理问题建议书》草案初稿编写,该文件在6月底至8月初进行了广泛的在线多方利益相关者协商,并取得了实质性进展。这些磋商对于制定全面、包容和多元化的文本草案至关重要,它将涵盖参与人工智能的各个利益相关者的利益、关切和观点。

来自世界各地的合作伙伴与教科文组织一起,根据以下3个方面组织了这一磋商过程:

特设专家组

2020年3月,教科文组织总干事任命24名在人工智能伦理方面具有多学科和多元化专业知识的知名专家成立特设专家组(AHEG)。

该小组的任务是以教科文组织建议书的形式拟定一份全球准则性文书草案。文本需充分考虑到各方面的问题,包括环境和全球南方国家的需求。

 

特设专家组的线上工作(2020年3-9月)

由于新冠疫情造成的特殊情况,特设专家组从2020年3月底到5月初于线上开展了其第一阶段的工作。

下列工作文件为特设专家组提供了相关背景资料,以供思考。

特设专家组在6名成员的协调下,以工作小组的形式于线上工作了6周。这6名成员为:Robert Kroplewski、Julie Owono Assevini、Golestan(Sally)Radwan、Emma Ruttkamp-Bloem、Peter-Paul Verbeek和曾毅。

专家组还在2020年4月20-24日举行了线上讨论。来自成员国、联合国和其他政府间实体的40多名观察员出席了讨论,并向特设专家组提供了书面意见。据此,专家组在2020年5月编写出建议书草案的第一版,并于2020年6月底至8月初进行了广泛的多方利益相关者咨询。

专家组从8月中旬开始整理咨询中收到的反馈意见,并于8月31日至9月4日召开会议,以修订文本草案的第一版。在这一周时间里,来自43个会员国、联合国和其他政府间实体以及非政府组织的100多名观察员注册观察会议。

专家组最终在2020年9月7日完成了建议书的初稿定稿。

 

特设专家组主席团

特设专家组还依托线上程序选举出其主席团,名单如下:

主席:Emma Ruttkamp-Bloem女士 

报告员:Sang Wook Yi先生

副主席:

  • Constanza Gomez Mont女士     
  • Irena Nesterova女士
  • Golestan (Sally) Radwan女士
  • Peter-Paul Verbeek先生

 

下一步工作

该建议书的初步报告和初稿已于2020年9月交各成员国,以供其在2020年12月31日前提出书面意见。在编写总干事关于该建议书的最终报告时将考虑这些书面意见。

最终报告将包含一份或多份建议书草案文本。该报告将传达给各成员国,并提交给将于2021年召集的政府专家特别委员会(第II类)(预计在2021年4月和6月召开2次会议)。

特别委员会将决定建议书的终稿,随后终稿将于2021年年底提交给教科文组织大会。