Press release

教科文组织拟定全球人工智能伦理建议书工作取得重大进展

17/09/2020
03 - Good Health & Well Being
10 - Reduced Inequalities
16 - Peace, Justice and Strong Institutions

2019年11月,联合国教科文组织各会员国决定启动全球人工智能伦理建议书的撰写。联合国秘书长古特雷斯对教科文组织接受这一挑战表示赞许,他表示:“对于整个联合国系统和全世界而言,人工智能是一个不分国界的重要问题。”

今年3月,教科文组织召集24位在人工智能伦理学方面具有多学科专长的著名专家,委托他们拟定一份关于人工智能伦理问题的建议书草案

教科文组织随后启动了大范围的磋商进程,以征求广大利益相关方意见。参与者包括来自155个国家的专家、民众(通过一场全球线上调研)、联合国各机构,还有谷歌、Facebook和微软等业界巨头,以及从斯坦福大学到中国科学院的学界机构。

建议书草案今天已提交给教科文组织的193个会员国以供协商。按照计划,正式文本将在2021年11月举行的教科文组织大会上获得最终通过。

“我们必须保持警醒,确保人工智能成为‘人类的助手而非对手’”,教科文组织总干事阿祖莱提醒道。“我们需要坚实的道德原则基础,以确保人工智能服务于我们的共同利益。我们希望该过程尽可能体现包容性,因为这是一个具有普遍性的重大问题。”她解释道。

近年来,尤其是新冠疫情爆发以来,不少涉及人工智能(AI)的解决方案问世,譬如以加速疫苗研究和追踪病毒轨迹为目的的方案。人工智能也推动了远程医疗和远程教育的飞速发展;它还被用于无人机医疗物资配送。其应用领域日渐增多,也因此推高了对全球性规范文书的需求。

正如科学刊物和科幻作品中的呈现,人工智能潜力巨大,但也引发了种种担忧,即机器开始抢占人类的决定权,侵害用户隐私并操纵个体,损害基本自由和人权。每天都有海量数据被收集和分析,从而引发了一些重大问题:保密性和隐私权遭侵犯、歧视性行为和刻板印象被复制。

供国际社会讨论的建议书草案提出了一些关键概念:

  • 相称性:人工智能技术不应超出为实现合法目的而预先设定的限制,并应根据其使用情况进行调整;
  • 人类的监督和决定:人类对人工智能系统生命周期的所有阶段负有道德和法律责任;
  • 环境管理:人工智能系统必须有助于所有生物间的和平互联,并尊重自然环境,尤其是在开采原材料时。
  • 性别平等:人工智能技术不得复制现实世界中存在的性别差距,特别是在工资、代表性、可获取性、刻板印象等方面。为避免这些潜在的重大危险,需采取政治行动,如积极差别待遇。

教科文组织将协助各国政府和民间社会的相关方面(企业、公民等)开展提高认识的具体行动,并开发评估人工智能对各个领域伦理影响的工具。

除了寻求就这一问题达成国际共识外,教科文组织的专家还呼吁会员国和人工智能相关方进一步提高公众认识,并强调使全民了解自身数字权利的重要性。 

****
媒体联系人:c.o-hagan@unesco.org,+44 7715 991279

了解关于建议书草案的更多信息