
人工智能创新,应对社会挑战
cou_03_19_idees_ai_02_website.jpg

人们正在利用人工智能解决当今社会面临的两个最具有挑战性的问题:无孔不入的虚假新闻和愈发普遍的对个人隐私的侵犯。2019年Netexplo奖颁奖仪式于四月在联合国教科文组织总部举行,获奖者共10个,其中就有Factmata和D-ID,前者利用人工智能阻遏虚假信息的传播,后者保护个人身份不被由人工智能运行的人脸识别系统识别。
Factmata公司(位于伦敦)首席执行官兼联合创始人杜鲁弗·古拉提(Dhruv Ghulati)和D-ID公司(位于以色列特拉维夫和美国帕洛阿尔托)首席执行官兼联合创始人吉尔·佩里(Gil Perry)与联合国教科文组织《信使》杂志畅谈他们的创新。
希拉兹·斯德华 担任采访
杜鲁弗·古拉提:与虚假新闻作斗争
是什么原因促使您创立一家人工智能公司来处理虚假新闻?这项任务难道不是像反腐败一样,十分艰巨吗?
确实如此。要想改变这个世界, 我们需要做的不是创办一家企业那么简单,而是去研究更先进的技术,一旦这项技术奏效,那么它对世界各地所有人的潜在影响将是无与伦比的。Factmata将人工智能与人类社会相结合,开发出了可解释的算法,用以解决在线信息不实的问题,并致力于构建一个更好的媒体生态系统。
Factmata的评分系统能够识别每一段在线内容并以智能方式加以解读。它会以九类信号为基础生成评分——包括仇恨言论、政治偏见和性别歧视——使用户对网站任何内容的质量、安全性和可信度进行深入了解。该系统配置了最适合对任何有待讨论的内容进行评估的专属专家网络,因此这些审查标准都是公平且有据可循的。
我们的目标是建立一个新的线上内容质量全球排名系统,该系统将用于广告交易平台[推动多家广告网络公司(通常通过实时拍卖)进行媒体广告内容交易的数字市场]、浏览器、搜索引擎、社交网络等。这将确保优质的新闻排名靠前、盈利增加,而可信度低、不安全的内容则无法获利。
Factmata与其他软件,例如脸书使用的软件,有何不同?
我们的技术可能更加精准,因为我们使用了独家专有的方法,请专家团队来帮助打造我们的软件,并为我们提供独特的训练数据,而不是使用目前所有人都可以访问的开放数据集。维护这些独特数据既困难又耗时。不过,我们已经找到了一种方法,可以让我们以更实惠的价格、更高效的方式获取这些数据,那就是让广大用户参与到这个评分过程中来。
您们的用户主要是哪些人?
我们的主要用户是那些乐于通过我们的工具锻炼批判性思维能力的公众,以及品牌商和政府人士,他们力图确保自己能监测人们的两种行为:一种是散布对社会健康真正有害的谣言,另一种是传播可能破坏产品发布或宣传活动的虚假信息。
谈及剔除虚假新闻,您认为人工智能比人类更胜一筹吗?
不,人类要厉害得多。但人类无法批量完成工作。许多硬件上运行的算法可以每秒扫描数百万项内容,然后标记出存在虚假新闻的部分,但要增加人手去不知疲倦地筛查如此海量的内容却颇为不易。而且,高效率的仅仅是少数人。因此,将最适合这项工作的人类与人工智能相结合才是关键。
黑客和虚假新闻散布者是否可以骗过人工智能?
是的,他们会有这样的企图。然而,要骗过人工智能只会越来越难,这对我们来说是个好消息。在系统的飞速进步面前,那些企图钻系统漏洞的人们最终将无计可施。这就是我们用来处理垃圾电子邮件、实际上也是我们用来处理大多数除垃圾邮件以外的诈骗及网络安全问题的方式。
对我们来说,关键是要有足够的资金使我们继续存活下去,在打造我们的核心技术的同时拥有支持我们的客户,进而展望未来。在大多数人可能会放弃的时候,我依然相信,通过艰苦卓绝的努力,以及经年累月的坚持,我们将会扫除虚假新闻。
---------------------------------------------------------------------------------------------------------------------
吉尔·佩里:让人脸不可识别
您曾经是以色列国防军情报部门8200精英部队的一员。是什么促使您创建这款软件,保护个人身份不被人脸识别系统识别?
我们几个人在军队服役期间就萌生了这个想法。那时,我们非常清楚地认识到,人脸识别技术会给隐私和身份保护带来多大的危害。正因为如此,在社交媒体上发布自己的照片成为了禁忌。离开军队后,我决定更深入地研究这个问题。我学习了计算机视觉和图像处理的相关知识,并在这一领域工作了几年。之后,大约两年半前,我与D-ID的联合创始人塞拉·布隆德西姆(Sella Blondheim)、艾里兰·科塔(Eliran Kota)合作,共同编写了最复杂、最具有开拓性的算法之一,保护照片不会被人脸识别技术识别。这个算法为现在的D-ID奠定了基础。
如今,人脸就是我们的密码,但和密码不同的是,我们不能改变人脸,因此需要对它加以保护。我们开发了一款人工智能技术,它能使人脸识别算法无法识别图像信息,同时,人们的肉眼则无法察觉图像有何不同。这样一来,人们就可以存储、分享、使用图像及视频,而不必担心自己的脸被自动人脸识别工具抓取、识别和滥用。
保护人脸不被识别有多重要?如果不用软件来遮掩照片,会有哪些危险?
首先,人脸识别无处不在,该市场正在蓬勃发展。第二,我们身边到处都是摄像头,街头、商店、火车上等地方都处于监控之中。再者,我们每个人都有智能手机,并且我们会用手机拍摄照片和视频。最后,社交媒体、公司服务器、政府数据库等等,到处都有我们的照片。监控摄像随处可见,加上人脸识别技术越来越发达且易于获取,两者相结合便造成了今天这种状况,那就是任何人都能识别、追踪并窃取你的身份。
人脸识别技术可以用来给公民行为进行评级,或者告诉你周围有谁从银行借了款。在某些国家,你可以在街头随意拍下别人的照片,然后用人脸识别功能查找一切关于这个人的信息。据悉,有人使用这些应用软件来骚扰少数群体和异己者。在美国和其他地方,人脸识别技术还被用来打探顾客的年龄、性别、族裔、消费满意度和其他更多信息。
简单来说,我认为我们所有人都应当关注个人隐私。幸运的是,D-ID可以提供此项帮助。
D-ID的独特算法将最先进的图像处理技术和深度学习技术相结合 [使机器能够独立识别人脸、人体等复杂概念],任何照片都能被重新合成,并生成受保护的照片。这项技术极其难以掌握,我相信我们是目前唯一一家能够提供这种技术的公司。
政府机构大量使用人脸识别技术,您是否设想过自己的公司有一天会与政府机构发生摩擦?
没有。实际上,政府和地方立法机构正在推动出台更多的隐私条款,这与我们的构想高度一致。
您们的客户主要有哪些?是想要保护自身身份信息的个体吗?
目前,我们主要将软件出售给企业。客户可以利用我们的技术保护其管理层和员工的图像,以及其顾客的图像数据库。
我们还将目光投向了学校,并以帮助师生发布和分享经过隐私保护处理的图像为目标。随着我们的技术不断进步,我们希望能够找到一种方法,实现该软件在智能手机和摄像机上的普遍安装,从而为每个人提供D-ID的服务,使我们拍摄的每一张照片都无法被识别。