如何让AI学会忘记?

专为互联网人打造的365天成长计划,500门视频课程随便看,构建你的产品、运营知识体系。查看详情

无论对于人类还是AI机器人而言,忘记都是一件棘手的事情。

忘记是一件棘手的事

我们都知道忘记一些事情是怎样的感觉。比如,忘记一个亲人的生日、一段同年的记忆。但即使是能够在不到20秒内记住一张牌顺序这样记忆力超凡的人,仍会忘记把钥匙放在了哪里。似乎,人们从来没能够完全掌控自己的记忆。

忘记是一件棘手的事,对于人类和人工智能来说都是如此。

图片来源:NASA / B.斯塔福德/ J.布莱尔/ R.Geeseman

目前,研究人员正在以不同的方式探索机器人的记忆概念。这不仅仅关乎技术问题,还同样涉及到了隐私、法律和伦理方面的问题。试想,尽管你已经答应自己的配偶不再抽烟,但你的家庭机器人却在某日目睹了你鬼鬼祟祟的抽烟全过程。又或者,如果它看到你犯了谋杀案呢?

如果有人有能力让机器人忘记一些记忆,那将会是谁呢?这是一个很重要的问题。不过,首先研究人员需要找出好办法让AI能够忘记一些记忆。这之前,我们需要先思考人类的记忆。

为什么人们忘记?

一个比较流行的比喻解释了为什么人们会忘记:人们的大脑的容量会饱和,因此,我们需要忘记一些东西给大脑腾出更多的存储空间。但是,对于一些患罕见“超忆症”的人来说,他们几乎能够记住生活中的每一个细节。这表明,上面那个比喻的解释并不完整。

那么,如果我们忘记一些事情不是为了给新记忆腾出空间,那我们为什么还会忘记呢?有一个解释是,记忆帮助我们了解这个世界,而不仅仅是记住它。用这种方法,我们似乎保留了有用的、有价值的和相关的记忆,同时忘记了低价值的信息。

例如,一些研究表明,比起重复的信息,人们可以更好地记住有冲突的信息。其它因素还包括事件的重要性和新颖性,以及我们在经历一些事时所伴随的情感和情绪。譬如,细想2001年9月11日,许多人能够清晰地记得自己当天在哪里,以及做了什么。

机器人如何忘记?

计算机记忆(电脑内存)通常被描述存储信息和找回信息的容量,以及存储这些信息的计算机物理组件。当计算机的某些内存不再被任务需要时,计算机将“忘记”这些数据,释放空间供其他任务源。

这也适用于人工智能。尽管忘记可能会使我们感到沮丧,但人类忘记的方式使得我们仍然优于人工智能。而且,机器学习算法尤其不知道需要什么时候保留旧信息,什么时候抛弃过时的信息。不仅如此,它还会面临着与“遗忘”有关的几个问题。

举个例子,连接者AI(AI通常使用大脑结构的神经网络模型)面临着与“遗忘”有关的几个问题,譬如“过学习”这个问题。“过学习”指的是当一个学习机器存储了源于以往经验的过于详细的信息时,阻碍了其概括和预测未来事件的能力。

另一个问题是“灾难性遗忘”。 研究人员正在努力建立可以适应新信息,又不会突然忘记以前所学知识的人工神经网络。

还有就是,有时人造神经网络的神经元在学习过程的早期采用不良的激活模式,损害了AI的未来学习能力。

机器人存储记忆的另一种方法是象征性的记忆表征,其中,知识是由逻辑事实来表示的(如“鸟飞”,“Tweety是鸟”,因此“Tweety可以飞”)。这些高度结构化的人造表示可以很容易地删除,就像在电脑上删除一个文件。

这些记忆范围包含了从原始的感觉运动数据(相机记录)到存储在知识库中的逻辑事实(“圣诞节是12月25日”)的丰富内容。

机器人应该忘记什么?

要创造更好的人工智能,首先要了解我们的大脑在关于什么是值得记住的,什么是要遗忘的方面是如何做决定的。

就像人一样,人工智能应该记住重要和有用的信息,同时忘记低价值,无关紧要的知识。然而,确定什么是相关和有价值的信息,除了手头的任务之外,可能还包括如伦理,法律和隐私问题等因素。

聊天机器人进行医疗诊断,智能家居设备监控我们的一举一动,安全机器人使用摄像机和热成像进行巡视。这些都是存储的数据。

例如,亚马逊的家庭助理Echo是一个语音控制的免提扬声器,它始终监听命令提示符。最近,阿肯色州警方要求亚马逊移交由Echo收集的显而易见的谋杀嫌疑人回声信息。

或者,思考一下人工智能性机器人的问题,性机器人应该记得或忘记她们的客户吗?是否要忘记这些客户对她们做了什么?谁可以拥有机器人的数据?而谁又可以查看并删除数据?

不得不说,谈到记忆,决定机器人何时忘记是人类面临的一个深刻的挑战。

 

编译:梓色扬光

原文链接:https://futurism.com/how-to-make-ai-forget/

来源:http://www.jianshu.com/p/db50cc04413f

本文由 @梓色扬光 授权发布于人人都是产品经理,未经作者许可,禁止转载。

“本译文仅供个人研习、欣赏语言之用,不欢迎任何转载及用于任何商业用途。如需转载请注明作者和来源。(本译文所涉法律后果均由本人承担。本人同意平台在接获有关著作权人的通知后,删除文章。”)

题图来自PEXELS,基于CC0协议

祝给予赞赏的伙伴,2017年发大财!
6人打赏

评论( 0

写下你的想法

推荐阅读