Editorial

为人工智能研究制定全球道德规范

cou_03-18_dg_itw_02.jpg

我们必须避免人工智能遭到滥用。

人工智能(AI)领域近年来取得了惊人的进展,人们以前从未想过的发明从此成为可能。如今的计算机和机器人能够学会如何改进自己的工作,甚至可以作出决定,当然,这些是通过算法来完成的,并且不具备个人意识。尽管如此,仍有一些问题是我们依然不得不问的。机器会思考吗?现阶段的人工智能具备哪些能力?人工智能在多大程度上具有自主性?人类决策的作用何在?

人工智能不仅引爆了第四次工业革命,而且还引发了一场文化革命。不可否认,人工智能必定会改变我们的未来,只是我们还不知道确切的方式。对于人工智能的迷恋和恐惧正是由此而来。

本期《信使》带领读者深入调查,从几个不同侧面阐述了计算机科学、工程学和哲学领域的这项尖端技术,同时还纠正了一些观点。首先要澄清的是,人工智能目前还不会思考,人类掌握的技术还远远不能将构成人体的所有成分统统下载,存入计算机。机器人必须遵循一系列运算程序,才能与人类进行互动,一旦超出为人机互动预先设定的精确框架,机器人是无法建立起真正的社会关系的。

即便如此,人工智能技术的某些应用的确存在问题,这些应用包括数据收集、面部识别算法、军用无人机和致命性自主武器等。其中数据收集会侵犯个人隐私,而面部识别算法会被用来识别敌对行动,或者算法本身带有种族偏见。人工智能在道德伦理层面引发了很多问题。可以肯定的是,这些问题今后还会不断增加,并且会越来越严重。

人工智能技术正在飞速发展,但在道德伦理层面却没有取得太多进展。有多名研究人员对此表示忧虑,一些国家也开始认真思考这个问题,但还没有建立法律框架来规范今后在全球范围内的伦理研究工作。

在这期《信使》里,联合国教科文组织总干事奥德蕾·阿祖莱(Audrey Azoulay)在谈到本组织的责任时指出:“我们有责任引导各方开展一场发人深省的全民辩论,以便在步入新时代时,能够保持清醒和理智,坚守我们的价值观,为确定全球基本伦理原则创造条件。”

要确保以负责任的方式开发人工智能,国际规范性文书至关重要,联合国教科文组织正在为之努力。为支持这项工作,本期《信使》围绕人工智能问题提出了多种思路。