建立伙伴关系,减少人工智能中的偏见

17/07/2020
05 - Gender Equality

人工智能(AI)被越来越多地运用于决策制定,进而影响到我们生活的方方面面。在全球数字化转型的进程因为新冠肺炎疫情而加速之时,这一点尤为明显。通过机器学习等技术系统,人工智能正逐步加速参与决策:谁获得工作面试的机会、是否向某人提供信贷、向哪些消费者宣传哪些产品,以及如何分配政府服务和资源、哪些社区被列为犯罪“高风险”地区等等。

在决策中使用人工智能可以减少人类的主观性,但当人工智能系统由带偏向性的数据集和算法驱动时,它也会起到完全相反的作用,产生大规模的歧视性结果,给企业和社会带来巨大的风险。想要利用人工智能的变革潜力就必须解决这些偏见。作为人工智能系统的开发者、使用者和管理者,企业发挥着核心的引领作用,而企业领导者做出的决策则具有重大的历史意义。

出于这层考虑,加州大学伯克利分校公平、性别与领导力中心于2020年7月16日推出了《减少人工智能中的偏见:公平熟练的领导力手册》,帮助企业领导者解决人工智能中的偏见问题,以负责任的、公平的方式创造价值。

手册发布活动由中心副主任史密斯(Genevieve Smith)主持,聚集了来自私营部门、公共部门以及学术界的利益攸关方和专家。联合国教科文组织性别平等部门负责人珂拉特(Saniye Gülser Corat)作为4人专门小组的成员参加了此次活动,小组的另3位成员分别是谷歌高级技术项目经理兼社会影响技术战略家马丁(Donald Martin Jr.)、AI Now研究所技术研究员拉吉(Deborah Raji)以及李维斯公司(Levi Strauss & Co)首席战略兼人工智能官沃尔什(Katia Walsh)。珂拉特在发言中谈到教科文组织如何利用自身号召力建立伙伴关系,帮助解决人工智能和机器学习中的性别偏见问题。

促进关于人工智能性别化问题的对话

教科文组织是第一个致力于人工智能性别化问题的联合国机构,于2019年3月推出了题为《如果我能,我会脸红:通过教育消除数字技能中的性别鸿沟》的报告,就克服全球数字技能中的性别差距提出行动建议,并特别研究了在数字语音助理等一些最普遍的人工智能应用中出现的性别偏见的影响。

报告认为这种偏见源于前沿技术开发团队的性别比例失衡,这往往导致刻板印象也被复制到机器中。《如果我能,我会脸红》在发行后参与引发了一场全球对话,特别是与私营部门的对话,以讨论人工智能技术的性别化问题以及教育对于培养妇女和女童数字技能的重要性。

为了促进这一全球对话,教科文组织于2019年11月在里斯本参加了全球最大的企业家盛会——共有7万多名参加者的2019年网络峰会。在由西班牙《国家报》的帕尼亚瓜(Esther Paniagua)主持的炉边谈话中,珂拉特解释说,在每个部门都成为技术部门的时候,这些性别平等问题变得非常令人担忧。对她来说,“为了建立一个更加平等的未来,女性需要在决策中拥有话语权。她们需要参与科技的设计,这样才能发挥引导科技的作用。”

2020年,教科文组织决定进一步推进这一对话,研究在实现性别平等的全球努力中,私营和公共部门应该采取哪些具体行动,以确保人工智能成为解决方案的一部分,而不是问题的一部分。

建立伙伴关系,推动行业变革

由于前沿技术正以前所未有的规模改变着我们生活的方方面面,要想合作促进进步、促进以更加公平和包容的方式对待这些新技术,建立伙伴关系并与其他利益攸关方建立关系至关重要。出于这种考虑,教科文组织原计划于2020年3月7日国际妇女节之际召开一场关于性别平等与人工智能伦理的全球会议。受疫情影响,教科文组织将这次活动改为了性别平等与人工智能的全球对话,参与者来自私营部门、学术界和民间社会,共同聚焦人工智能性别平等原则的设计及其实施。

这一进程的发现和建议将为制定人工智能伦理规范性国际文书提供信息,并为利益攸关方提供必要的指导和工具,以确保文书充分反映并纳入性别平等的考虑。

教科文组织性别平等部门负责人珂拉特(Saniye Gülser Corat)

与此同时,根据教科文组织大会第四十届会议的决定,教科文组织开始了为期两年的第一份人工智能伦理问题全球准则性文书的制定工作。这一包容且多学科的进程将包括与广泛的利益攸关方进行磋商,包括科学界、来自不同文化背景和拥有不同伦理观点的人、少数群体、民间社会、政府和私营部门。

2020年4月,由教科文组织任命的24名知名专家组成的国际小组举行了一次线上讨论,以拟定人工智能伦理问题建议书草案文本初稿,并考虑到了环境和发展中国家的需求等各个层面。

该建议书草案现已在教科文组织网站上公布并公开征询意见。在线意见征询是为了收集尽可能多的反馈意见,以制定一份全面、包容和多元的文本。其目的是了解全世界尽可能多的参与人工智能的利益攸关方——包括公众、学术界、科技界、民间社会、私营部门和政府实体——的利益、关切和观点。

教科文组织邀请全球民众在网站上参与在线意见征询。

点击了解更多教科文组织促进性别平等的工作。