蓬莱化工机械网

当前的位置是:主页 >> 化工机械厂家

人工智能记性差谷歌deepmind破解灾难性遗忘代码赋予ai记忆力

时间:2021-12-16 来源网站:蓬莱化工机械网

暑假后你回到学校时,可能已经忘了前一学期学到的一切。但是,如果你像人工智能系统那样学习,那么实际上你会——在第一天上课坐下来,大脑清空一切且从零开始。

人工智能系统在接收新信息时倾向于忘记先前学到的东西,这被称为灾难性遗忘。

这是一个大问题。在分析了无数预期的例子之后,可以说,尖端算法学习。例如,面部识别ai系统将分析人脸的数千张照片,可能是已经手动标注的照片,以便当它在视频输入中弹出时能够检测到面部。但是因为这些人工智能系统实际上并不理解它们所做事情的基本逻辑,所以教导它们做其他事情,即使非常相似 —— 比如说,识别特定的情感 —— 也意味着从头开始重新训练。一旦算法被训练完成,它就完成了,我们不能再更新了。

多年来,科学家们一直试图弄清楚如何解决这个问题。如果他们成功,ai系统将能够从一组新的训练数据中学习,而不会覆盖他们在此过程中已经学习的大部分内容。基本上,如果机器人有一天崛起,我们的新领主将能够征服地球上的所有生命并同时嚼泡泡糖。

但是,灾难性的遗忘仍然是阻碍科学家们建立通用人工智能(agi)的主要障碍之一,这是一种包括我们在电视和电影中看到的无所不能、拥有同情心和富有想象力的人工智能。

事实上,最近在布拉格参加人类人工智能联合多方会议的一些人工智能专家在接受futurism的私人采访中,或在小组讨论和演示期间均表示,他们不希望很快看到agi或人类水平的ai,灾难性的遗忘问题就是最重要的原因之一。

但谷歌deepmind的高级研究科学家伊琳娜·希金斯在会议期间使用她的演讲宣布其团队已经开始破解代码。

她开发了一个ai代理 —— 有点像一个由ai算法控制的视频游戏角色 ——可以比典型算法更有创造性地思考。它可以“想象”它在一个虚拟环境中遇到的东西,在其他地方可能看起来像什么。换句话说,神经网络能够将它在模拟环境中遇到的某些物体从环境本身中分离出来。

这与人类的想象力不同,在那里我们可以完全想出一些新的心理图像(想想一只鸟,你可能会想起一个虚构的球形,红色鸟在你的脑海中看起来像眼睛)。这种人工智能系统并不复杂,但它可以想象在新配置或位置中看到过的物体。

“我们希望机器能够在探索中学习安全常识,因此它不会对自身造成损害。”希金斯在由goodai组织的会议上发言时说道。她也在预印本服务器arxiv上发表了论文,并撰写了一篇博客文章。

假设你正在穿越沙漠(一个人),你会遇到仙人掌。你在所有漫画中看到的那些高高大大的仙人掌一样。你认识到这是仙人掌,因为你之前可能遇到过仙人掌。也许你的办公室买了一些多肉植物来活跃气氛。但即使你的办公室没有仙人掌,你也可以想象这个沙漠仙人掌在一个大型粘土锅里会是什么样子。

现在希金斯的人工智能系统几乎可以做同样的事情。只有五个示例说明给定物体从不同角度看起来如何,ai代理会了解它是什么,它与环境的关系,以及它从未见过的其他角度或在不同光线下的外观。本文重点介绍了如何训练算法来发现白色手提箱或扶手椅。在训练之后,算法可以想象该对象在一个全新的虚拟世界中的外观,并在遇到它时识别该对象。

“我们运行的这个精确设置是我用来激励这个模型的,然后我们从一个环境中呈现一个图像,并要求模型想象它在不同环境中会是什么样子。”希金斯说。一次又一次,与具有纠缠表态的ai系统相比,她的新算法在完成任务方面表现优异。纠缠表态可以预测物体的质量和特征。

简而言之,该算法能够记录它遇到的内容与过去看到的内容之间的差异。像大多数人一样,但与大多数其他算法不同的是,为谷歌构建的新系统higgins,可以理解它并没有遇到一个全新的对象,因为它从一个新的角度看了一些东西。然后,它可以使用一些备用计算能力来接收新信息;人工智能系统更新对世界的了解,无需重新培训,重新学习一切。基本上,系统能够将其现有知识转移并应用于新环境。最终结果是一种范围或连续体,展示了它如何理解物体的各种品质。

当然,希金斯的模型没有让我们接触到agi。但它标志着人工智能算法迈出了重要的第一步,人工智能算法可以不断更新,在不丢失已学习到东西的情况下学习有关世界的新事物。

希金斯说:“我认为接近通用人工智能是非常关键的。”

而这项工作仍处于早期阶段。与许多其他对象识别ai工具一样,这些算法在一个相当狭窄的任务中具有一系列受限制的规则,例如查看照片并在许多不是面部的物体中挑选出一张脸。但希金斯新的人工智能系统,正在以一种更接近创造力和一些想象力的数字模拟方式完成一项狭隘的任务。

即使希金斯的研究没有立即带来人工智能时代,她的新算法已经能够改进我们一直使用的现有ai系统。例如,希金斯在用于训练面部识别软件的一组主要数据上尝试了其新ai系统。在分析了数据集中发现成千上万个爆头后,该算法可以创建任何特定的范围,用于标记这些照片。例如,希金斯展示了按肤色排列的一系列面孔。

希金斯随后透露,她的算法能够对主观品质做同样的事情,这些品质也可以在这些数据集中找到方法,最终将人类偏见教给面部识别ai。希金斯展示了人们被贴上“有吸引力”标签的图像,创造出了一种范围,直指年轻、苍白的女性照片。这意味着,任何受过这些照片训练的人工智能系统——已经有很多了——现在和那些给照片贴上标签的人一样,都持有同样的种族主义观点:白人更有吸引力。

这种创造性的新算法已经比我们在寻找其他算法中检测人类偏见的新方法要好得多,因为工程师可以进入并删除它们。

虽然它还不能取代艺术家,但希金斯团队的工作是让人工智能更像一个人,而不是一个算法迈出了重要一步。

http://www.allove.com/hy.php?id=89

http://www.allove.com/hy.php?id=172

http://www.allove.com/hy.php?id=108

http://www.allove.com/product.php?page=1&lm1=20