我们将创建一个新的生命形式,这一事件是一个进化突破的迹象,不仅可能威胁到人类的生存。

“欢迎幼儿园,机器人”Pieter Abbeel一边说,打开机器人学习实验室的门。北部的新建筑位于加州大学伯克利实验室实际上是相当混乱的7楼:自行车去了墙,杂乱无章的房间呆在室内十几个研究生,白板写普通人无法理解的公式。38 Abbeel是一个瘦长的男人,他穿着一条牛仔裤,上面是一个宽松的t恤。2000年,他从比利时,来到美国斯坦福大学博士学习计算机。现在,在了解机器人智能思考教会所面临的挑战,他是全世界最重要的专家之一。但首先,他必须教他们“思考”。这就是为什么我们称这里为幼儿园,”他开玩笑说。他把我介绍给布雷特,仿人机器人是6英尺的一次著名的破产“柳树车库”的硅谷机器人制造商的产品。几年前,让布雷特实验室实验。布雷特的意思是“伯克利机器人是用来完成枯燥的任务(伯克利机器人消灭的乏味任务)”,看起来友好创造扁扁的,单独的遥远与相机的眼睛,矮矮胖胖,像人一样,它也有手有脚,其手爪,车轮是它的脚。他已经下班,现在站在实验室的中间,旁边是另一个神秘的和平机器人还没有电。一个盒子在地板上附近的玩具,有一个木锤,塑料玩具飞机,和一堆乐高积木,这是Abbeel布雷特和他的学生教学道具。但他只是一个在众多的机器人实验室。在一个单独的隔间,靠背挂在一个18英寸高的吊带。在地下室和下面的一个工业机器人,它每天都在一个机器人相当于沙箱东西玩几个小时,只是想看一看的什么可以自学。街对面的另一个实验室,一个手术机器人正在学习如何缝合一个身体,与此同时,研究生无人机(uav)被教如何巧妙地避免对象。“我们不想无人机(uav)撞到东西从天上掉下来,“Abbeel说:“所以我们要教他们学会看问题。”

一直是可编程工业机器人执行特定任务:将机械手臂移动到左6英尺,抓起模块,然后向右转,PC版印刷电路模块。然后重复300次每小时。机器的机械作用和除草机智能化程度。但近年来,机器学习(能够模仿人类的大脑大约和做一些机器学习算法)的机器的语音识别的突破和显著提高视觉模式的能力。Abbeel目标是开发一个机器人的一般智力理解世界的一种方式,这样机器人可以自主学习完成任务。他仍有很长的路要走。“机器人甚至还没有2岁儿童学习能力,”他说。说他已经学会了做一些简单的任务,像一个结或折叠的衣服。但有些人可以很容易地完成,如识别揉成一个球在桌子上,事实上,毛巾织物,尤其困难的一个机器人,这部分是因为机器人缺乏常识,不叠毛巾的经验记忆之前,最重要的是,没有毛巾的概念。它只看到大量的颜色。

为了规避这个问题,一盒磁带启发儿童心理学,Abbeel创建了一个通过不断调整自学方法的方法来完成这个任务。现在,当布雷特整理衣服,也做类似的事情:它使用钳子拿起一条毛巾,试着感觉它的形状,试试看如何折叠。看原来的权利,它是。但你又想:机器人在叠毛巾,先生

弗兰肯斯坦类型所有的东西看起来有点令人毛骨悚然。智能机器可以执行任务的复杂性正以指数的速度增长。这最终将带我们去吗?如果一个机器人能学会秋季毛巾,如果有一天也可以做饭,手术,甚至发动战争吗?人工智能可能有助于解决人类面临的最复杂的问题,比如癌症、气候变化,等等,但它也可能在不久的将来在监测、侵犯隐私,不知疲倦地进行电话营销。此外,还有一个更大的问题是:有一天,机器可以认为自己吗?可以进行理性分析问题?甚至给情感吗?没有人知道答案。智能机器的崛起并不等同于其他的技术革命,因为它是最终危及人类的问题——我们可以创建将创建一个新的生命形式,这种形式的生活不仅是一种进化的突破也可能威胁到我们作为一个物种生存下来。

无论如何,革命已经开始。去年夏天,伯克利团队一系列短期记忆系统嵌入在一个机器人模拟。参与项目的计算机科学家谢尔盖·莱文说,他们注意到一个奇怪的事情。为了测试机器人的记忆项目,他们向机器人发出指令,要求把钉子放在一左一右两个洞之一。控制原因,他们再一次的情况下移除程序内存测试一遍,令他们吃惊的是,这个机器人还知道把钉子放在正确的洞。没有存储是如何记得指甲应该在哪里?“最后,我们意识到,只要机器人接收指令,它将旋转机械手臂到正确的洞。”命令消失之后,就看你的身体什么位置来确定应该放在哪个洞的指甲。也就是说,机器人本身,事实上,执行命令已经找到了正确的方法。“很奇怪,”莱文说:“也不安。”

Abbeel带我去他的办公室,这是一个没有窗户的房间。在办公室里,他和我讨论了DeepMind(通过谷歌2014年的约4亿美元收购AI初创企业)最近做了一个突破。几年前,因为教会电脑玩太空入侵者如雅达利视频游戏和玩比人类下滑,DeepMind震惊了每个人。但是更令人震惊,DeepMind不在程序告诉计算机条件下的游戏规则. .它不像深蓝击败人类的国际象棋游戏,游戏规则是写在程序里面。只知道一点电脑:我们的目标是得到高分。计算机使用的强化学习方法要做到这一点,就像训练狗,不管有多难,只要你赞美一个“好狗”,计算机可以使用这种机制探索游戏,学习规则为自己的反馈。几小时内,电脑是掌握了超人的技能。这是人工智能的一个重大突破——计算机自己“社会”,第一次一个复杂的技能。

突破Abbeel实验室研究人员感到着迷,他们决定用它来编写自己的类似的强化学习算法来做实验,试图帮助机器人学习游泳、跳和走。还是玩游戏?令他们吃惊的是,所谓的TRPO(信赖域策略优化,信赖域策略优化)算法的实现结果DeepMind算法几乎是一样的。TRPO显示,换句话说,与学习能力的一般方法。“我们发现TRPO不仅能教机器人行走,“Abbeel说:“我们可以击败了人类在一个电子游戏。”

Abbeel弹出一个关于机器人的视频模拟器。视频开始时你可以看到一个机器人落在地上的白色和黑色的。“记住,这个算法与研究视频游戏是一样的,”他说。机器人是安排三个目标:走多远多远,不踩你的脚,树干是高于一定的高度。“它不知道走的意思,“Abbeel说:“不知道自己有手有脚。它只知道自己的目标。然后想办法实现目标。”

仿真Abbeel按一个按钮,就开始工作。机器人沉重的落在地上,不知道你在做什么。“原则上,它应该能够决定你想继续还是跳,“Abbeel说。但算法实时“理解”只要抬起他的腿,它可以促进他们的未来前进。机器人可以分析你的表现,更好的解读什么样的行动,然后相应的改变。机器人很快开始跌倒,错开像醉酒。它会突然下降,爬起来,走了几步,然后摔倒了。但慢慢开始提高其性能,学习如何运行跌跌撞撞地朝着目标在过去。你几乎可以感觉的信心增加,腿就像一个跑步的速度更快(运行)。机器人不知道自己在跑,因为没有设置过程。但现在它已经运行。复杂的平衡自己的学习和身体控制的物理知识。这是惊人的,它是魔法。好像他们是在40秒见证了鱼人。

“移动机器人,开始走让它看起来像一个生活的方式,”我说。

Abbeel笑了笑:“几乎”。

尽管有各种各样的书籍和电影呈现的人工智能,但这个东西不是暂停蓝色液体箱大脑的合成。是人工智能算法,一个数学方程,它告诉计算机执行任何功能(受欢迎点你可以理解它作为机器的食谱;更深入的主题可以看到基于算法来寻找生命)。21世纪的算法就像19世纪煤矿:是我们的经济引擎,是现代生活的燃料。没有算法,你的电话不工作,也不会有脸谱,谷歌,亚马逊。算法编程飞行,然后引导飞机飞行,帮助医生诊断疾病。“如果每个算法突然停止工作,我们知道世界即将结束,“机器学习通俗文学作家的主要算法,佩德罗·多明戈(见有主宰世界的主要算法)。在人工智能的世界,圣杯是发现算法可以让机器理解这个世界,它可以让物理学家解释宇宙标准模型的运行机制,但前者是数字世界。

数学算法有几千年的历史,输入数据是现代计算的基础,计算机处理,那么该算法的结果。但是现在科学家开发了算法可以逆转这个过程,也就是让计算机编写自己的算法。假设你想让直升机向后飞:你告诉计算机写算法直升机控制信息(输入数据),然后你告诉你如何想让直升机飞,飞角(结果),宾果!电脑将会搬出他们的算法,然后告诉直升机怎么做。这个过程称为机器学习,它是人工智能的核心理念:如果机器自学可以让直升机飞向后,它还应该教其他的东西,比如如何找到一个情人在易燃物,或者当你跟iPhone认出你的声音,或将来设计一个创建终结者天网。DeepMind创始人黛米斯说过:“人工智能是机器智能的科学。”

当然,事实上,我们一直在智能机器包围。您使用的是谷歌地图,你画的算法最快的路线,根据实时数据来计算交通延误和交通状况做出预测分析。当你跟谷歌语音,它可以识别你的声音是这样的基于神经网络的机器学习算法,它使得电脑把你的话听起来咬,然后比较与其他部分,理解你的问题。Facebook扫描数十亿的图像通过图像识别程序,将斩首有害内容,如视频、JB照片。

智能机器正在加速,他们在哪里呢?地球上的生命从出生到实现更高的智能花了30亿年。电脑只有60年,相比之下,从一大块硅晶片可以开车在美国或在人群中一张脸。每一个在过去的一周中,会有一个新的突破宣布:今年1月,DeepMind透露他已经开发了一个算法,这个算法击败欧洲冠军(算法称为AlphaGo,3月9日开始,它就会与韩国顶级球员的象棋大战李se-dol)。快速进化,当然,也在人类的控制,但很难不去想我们是否已经达到一个转折点的智能机器的进化。我们将见证一个新物种的诞生?机器比人更加聪明多长时间?

谷歌的未来学家Ray Kurzweil提出的“奇点”理论,然后奇点比碳硅基机器变得更聪明机(人类),到那时,进化的平衡将会倾向于前者。在未来我们可以认为在一个巨大的云,”他在几年前一个技术会议。他甚至预测准确的时间的到来奇点:2045。在最近的一次会议上,即兴演讲,特斯拉和Elon Musk渡轮的创始人人工智能的发展被称为“魔鬼的呼唤。尽管这一点之后,他告诉我,他自己的头,但他说:“智能机器的兴起对我们提出了一个严重的问题,我们需要考虑,作为人类我们是谁?我们希望建立一个什么样的未来?”他指出,我们现在严重依赖于机器:“我们赛车的(cyborg)。不相信你看我的手机,你就会知道是什么样子的幻肢综合症”。

这并不是说超智机成为超级邪恶将构成威胁。“真正的人工智能的风险不是恶意,但在于其能力,”物理学家斯蒂芬·霍金最近说:“超智AI非常擅长实现他们的目标,如果目标不同意我们,我们就有麻烦了。你可能不是邪恶的蚂蚁仇恨,而不是出于恶意踩蚂蚁,但如果你负责一个绿色能源的水电项目,然后需要时淹死一个蚁巢区,蚂蚁的情况太糟糕了。我们不让人落在蚂蚁。”

虽然有更多的智能算法,能够更多的机器人,但超智机器的未来比科学更像科幻小说。Facebook说人工智能研究主管Yann LeCun(现在“AI智能水平远低于鼠标。”是的,IBM已经编程和闪闪发光的银色的华生,2011的机器测试击败了人类最聪明的球员,现在,它的基础是公司“认知计算”行动第二它可以阅读8亿页的信息,吸收整个维基百科语料库,更不用说几十年的法律和医学杂志。但是他们不教你如何骑自行车,因为它的情报是狭窄的,它不知道任何关于世界是如何工作的。西雅图艾伦人工智能研究所贵族是其中一个最复杂的人工智能程序,但对于“空气”是对这句话感到困惑。因为要理解这句话,你需要一些常识,但这台机器没有常识。甚至通过语言常识可以定义,也不知道是否需要呼吸空气生存;也不知道是一种呼吸一分钟或一辈子只有一次。

一些令人印象深刻的特性,比如实时Skype可以让用户在不同的语言对话翻译(或预览)目前,还有很长的路要走。在谈话中与一个男人在意大利,我对天气的评论已被翻译成《圣经》的解释。

当然,这并不是说的兴起,智能机器只是一种幻想,也并不是说,正义不会在我们难以想象的突然出现的数据点集。自动武器,例如,可以根据数据如人脸识别技术任务无人机杀手(见无人机BaiNianShi)是一个真正的威胁。但他们不是不会威胁到人类的生存。朝鲜黑客突然创建一个让金三个能力的终结者类型攻击的世界新算法的可能性也非常低。在这种背景下,人工智能不像iPhone,你写一个新应用程序工作。这更像是自己使互联网,只能慢慢积累长期发展。百度首席科学家吴在最近告诉我:“担心杀手机器人就像人口过剩在担心火星,我们有足够的时间来解决这个麻烦。”

事实上,杀手机器人夸大我们面临的问题是,它涵盖了真正的风险——智能机器的崛起是因为工人被机器人所取代,失业率的增加使用自动武器在战争中,这个简单的事实,我们越是依赖机器,有什么不对劲的地方,风险越高。我们生活在这样一个世界的问题在于人际关系的异化,我们的谈话与机器比与人聊天(你可以看到电影“电子病历”),是艺术成为一个和谐算法输出(看到机器学习艺术,Facebook的深度学习系统可以创建令人信服的形象)。人工智能时代的隐私,会造成深远的挑战不只是智能监控你的无人机在天堂,企业还可以跟踪你的动作好卖给你。作为伦理研究所首席技术官马塞洛Rinesi认为:“未来不是一个机器人脚踩人的脸永远(注:原句从奥威尔的《1984》:如果你想想象未来的一幅照片,想象一下一个脚踩人脸-永远)。但你看到里面,有一个小世界电话销售员,了解你的一切,永远不要停止出售你的世界。”

它也涵盖了与机器深联盟的好处。大部分的研究者,如DeepMind黛米斯认为,如果我们给机器智能,他们可以帮助我们解决一个问题如疾病和卫生保健,还可以帮助科学家们征服气候变化和物理学的难题。预览微软的Eric Horvitz AI更加雄心勃勃的:“对于人类来说,一个很大的问题是,我们的经验可以计算吗?如果是这样的话,对我们更好的理解思维方式,你能告诉我们一些关于我们作为地球上的生命是什么样的新发现?与自我,我们要做什么?”



相关文章