广角

人类的助手而非对手

cou_03-18_ethics_01.jpg

《数字时代的隐私终结?》(The end of privacy in the digital age?)古巴漫画家法尔科(Falco)作品

当我们不可阻挡地朝着自动化的未来迈进,而人工智能又几乎拥有无限可能时,我们必须搞清楚这一新兴技术的道德影响,并解决出现在我们面前的前所未有的法律和社会挑战。

洪智伟、达弗纳·芬赫(UNESCO)

每隔一段时间,我们就会遇到一种技术,让我们停下来去思考作为人类的意义。人工智能的问世要求我们深切反思其潜在的深远影响。虽然这一技术背后的概念已经在我们的集体想象中存在了几十年,但它直到现在才成为我们生活中的现实。

人工智能技术的最新进展——特别是那些从总体来说与机器学习有关,具体而言涉及深度学习的进展——已经表明,人工智能支持系统的效率和效力在很多领域,包括在需要一定程度认知推理的任务方面,都能赶超人类。因此,人工智能有可能为人类带来巨大进步并造福人类,但同时也会扰乱当前人类社会的经济和政治安排。

当我们思考人工智能的伦理影响时,应当明了如今的人工智能究竟是什么。我们谈及人工智能时,一般指的是“狭义人工智能”或“弱人工智能”,它旨在完成一项特定任务,例如分析和改善交通状况,根据既往购买情况在线推荐产品等。这些“狭义人工智能”已经存在,而且将变得越来越复杂,并融入我们的日常生活。

在这里,我们不谈论科幻故事和电影中描述的“强人工智能”或通用人工智能,据说它们能完成所有的人类认知任务。一些专家认为其甚至拥有“自我认知”和“意识”特征。目前尚无通用人工智能是否可行的一致观点,更不用说何时能够实现了。

永无止境的数据收集

机器学习和深度学习方法需要大量的历史和实时数据,以便人工智能支持系统从“经验”中“学习”,同时还需要一个架构,以便人工智能在其所学的基础上,实现目标或任务。这意味着我们在思考人工智能的伦理影响时,还必须顾及人工智能运作所需的复杂技术环境。这包括通过物联网(Internet of Things)持续收集大数据;将大数据存储在端;人工智能将大数据用于其“学习”过程;以及通过智能城市、自动驾驶汽车或机器人装置等,进行人工智能分析或执行任务。

技术发展越复杂,所产生的伦理问题就越复杂。虽然伦理原则没有改变,但我们处理问题的方式会发生根本性的变化。因此,这些原则会在我们知情或不知情的情况下受到严重破坏。

例如,我们的隐私、保密和自主概念可能会发生根本性变化。通过智能设备和脸书、推特等已经成为社交网络工具的程序,我们在没有切实了解数据的潜在用途和使用者的情况下,就“自由”和自愿地提供了个人信息。接着,这些数据被输入主要由私营部门开发的人工智能支持系统。

由于没有经过匿名处理,关于我们的喜好和习惯的信息会被用来创建行为模式,使得人工智能能够向我们推送政治信息,销售商业应用程序,追踪一些与我们的健康有关的活动等。

最好的一面和最差的一面

这会意味着隐私的终结吗?数据安全情况如何,被黑客入侵的可能性有多大?这些数据会被国家用来控制人民,甚至以个人人权为代价吗?一个持续监测我们的喜好,并根据这些喜好为我们提供一系列选项的由人工智能支持的环境,会以某种方式限制我们的选择自主性和创造性吗?

另一个要考虑的重要问题是,人工智能支持系统用来“学习”的数据本身是否包含偏见或成见,从而可能使人工智能做出导致歧视或侮辱的“决定”。用于社会互动或提供社会服务的人工智能系统将特别容易受此影响。我们必须意识到,一些数据,例如互联网上生成的数据,包含着反映人类最好一面和最差一面的信息。因此,仅靠人工智能支持系统从这些数据中学习,不足以确保产生合乎道德标准的成果,人为干预必不可少。

可以向人工智能支持系统传授伦理道德吗?一些哲学家认为,某些经验,如美学和伦理等,是人类与生俱来的,因此无法进行编程。其他人则提出,道德可以通过理性得到加强,因此可以进行编程,但同时必须尊重自由选择。

能否仅在理性思考的基础上,向人类传授伦理和道德,就这一问题人们目前尚且都无法达成共识,更不用说传授给人工智能了。即便最终可以通过编程使人工智能具备伦理道德,那我们又该使用谁的伦理道德呢?仅仅是开发者的吗?鉴于人工智能的发展主要由私营部门推动,因此必须考虑到私营部门的伦理有可能不符合社会伦理。

要确保人工智能为我们所用,而不是与我们为敌,我们就必须参与全面对话,对话当中要包含受人工智能影响的所有人的不同的伦理观点。同时,为了能够抵消对人类社会的潜在破坏,我们也必须确保,我们用来开发人工智能的伦理框架考虑到社会责任等更大的问题。

 

达弗纳·芬赫

达弗纳·芬赫(墨西哥) 联合国教科文组织生物伦理和伦理科科长,接受过心理学和生物伦理学的正式教育,曾任墨西哥全国生物伦理委员会秘书长。

洪智伟

洪智伟(马来西亚) 联合国教科文组织生物伦理和伦理科方案专家,2005年加入联合国教科文组织,之前曾从事设计工程和工程管理工作。