射洪哪里可以做网站,百度的网址是什么呢,怎么查网站开发者联系方式,国外企业网络设计研究现状1960 年的水牛城#xff0c;工作人员正在「精细调节」一台感知机作者#xff1a; 杨晓凡 刘鹏 思颖摘要#xff1a;几位最偏执的人坚持到了春天来临谷歌母公司 Alphabet#xff0c;亚马逊#xff0c;苹果#xff0c;Facebook 和微软这些全球最大的科技巨头们#xff0c;… 1960 年的水牛城工作人员正在「精细调节」一台感知机作者 杨晓凡 刘鹏 思颖摘要几位最偏执的人坚持到了春天来临谷歌母公司 Alphabet亚马逊苹果Facebook 和微软这些全球最大的科技巨头们都已经很大程度上将自己的未来押在了 AI 上面他们开启了一轮「谁先打造出更智能的机器」的 AI 竞赛。巨头们的 AI 竞赛点燃了 AI 技术几乎是一夜之间特斯拉的自动驾驶汽车已经奔驰在路上而亚马逊语音助手 Alexa 也正和你的孩子聊天。但 AI 并不是一晚上建成的也非单个硅谷公司的独立作品。现代 AI也就是神经网络和机器学习背后的历史可以追溯到二战的最后的阶段。那时候学者们刚刚开始试着打造能像人脑那样存储和处理信息的计算机系统。自此开始的几十年间这项技术起起伏伏的发展着但是它直到接近 2012 年才开始广泛的受到计算机科学家的青睐这多亏了一小撮不惧被当成傻子的固执 AI 研究者的坚持。他们始终坚信神经网络将点亮世界并改变人类的命运。这些先驱者们散落在世界各地不过投身神经网络研究的学者们在加拿大这个地方尤其集中。其实他们能来加拿大很大程度上只是因为运气好神经网络的研究在当时无论如何都算不上时尚那时候由政府支持的加拿大高级研究所CIFAR通过资助神经网络研究的方式吸引了一小撮专业学者来到加拿大。这其中就包括如多伦多大学的 Geoffrey Hinton 和 Yann LeCun蒙特利尔大学的 Yoshua Bengio阿尔伯塔大学的 Richard Sutton 这样一些计算机科学家们给了他们机会分享自己的研究理念、坚守自己的研究事业。这些固执的计算机科学家们提出了很多加速 AI 发展的概念到现在所有这些早期概念都被认为是现代 AI 的基石这几个人也被认为是 AI 的「教父」。本文接下来要讲述这样一个有点奇特的故事该故事取材自 Bloomberg 记者 Ashlee Vance 对他们各自采访的内容这些内容包括「神经网络为什么花了这么久才发挥作用」「热爱神经网络的计算机科学家是如何抱团在一起的」「为什么全世界这么多地方里就选择了加拿大」这一切最终都成为了智能机器崛起的舞台。AI 的画作BLOOMBERG BUSINESSWEEK 2018 年 3 月刊加拿大总理 Justin Trudeau 广泛意义上来讲AI 指的是一台计算机能够模拟人类想法或行为的电脑。在这种定义下就诞生了机器学习的概念其中你会让计算机反复做一个实验。这种情况可能是模拟一辆自动驾驶汽车在道路上行驶或者机器尝试认出照片里的一只猫。在这一理念下就涉及到了机器学习的一个叫做深度学习的子集方法。深度学习的总体思想是打造一个神经网络神经网络中的权重和偏倚可以进行调节直到网络给出理想的输出。深度学习可以让计算机的问题解决能力迭代进化这也就是 Geoff Hinton 和其他科学家们在过去几十年里真正研究的东西深度学习也是当前 AI 技术最让人激动的基础所在。深度学习在模仿人脑思考方面的表现也更加出色。Cade Metz纽约时报记者《A Forthcoming History of AI》一书的作者神经网络的灵感要追溯到 1940 年代当时有人提出构建一种能模拟人脑内神经元网络的计算机系统。但是就在不久后的在 1950 年代一个叫做 Frank Rosenblatt 的人真正地推动了这样研究的发展。Frank Rosenblatt 教授当时也与美国海军以及其他政府部门进行合作研究基于神经网络的概念他开发出了这种名为「感知机」的东西。当他曝光自己的成果时纽约时报和纽约客这样的杂志将其放在了最显眼的位置进行了报道。Rosenblatt 声称这个感知机将不止能做如识别图像这样的小任务理论上还能教机器行走说话和做出表情。但是感知机仅仅有一层神经元这也就意味着它能做的事情极其有限。更不用说实际上他承诺的该设备的功能一项也没有实现。当时Rosenblatt 的一个同事名叫 Marvin MinskyMinsky 也碰巧是在 Rosenblatt 在 Bronxt 读高中时的同学Minsky 在 1960 年代写了一本书他在书中详细地介绍了 Rosenblatt 开发的感知机和神经网络的局限性。几乎就是因为这本书神经网络这一领域的研究至少被冰冻了十年之久。Geoff HintonRosenblatt 的感知机本来能够实现一些有趣的事情的但是他超前了大约 50 年。尽管同学 Minsky 也曾经可以算作神经网络的信徒但他在书中显示出了他们解决不了的东西。这本由 Minsky 和 Seymour Papert 写的书《Perceptrons: An Introduction to Computational Geometry》基本上将这一领域的研究判了死刑。MetzGeoff Hinton一开始在 CMU后来在多伦多大学一直都在坚持着神经网络的想法。他和他的合作者们最终开发出了一种多层的神经网络也就是深度神经网络这种网络终于开始在各种不同的任务中大显神威。法国出生的计算机科学家 Yann LeCun 也在多伦多的 Hinton 实验室里做了一年的博士后。后来 LeCun 去了美国新泽西州的贝尔实验室。Yann LeCun我很小的时候就对智能这一整个概念非常着迷。我长大的时候正是 1960 年代那时候有太空探索、有最早的计算机和 AI 的出现。所以我开始学习工程学我对人工智能非常感兴趣即便这个领域那时候才刚刚萌芽。1979 年Yann LeCun右侧在 Esiee Paris 大学我听说了感知机的事情觉得很好奇因为我觉得「学习」就是智能的一部分。我就各种途径找到了所有关于感知机的东西来读。作为一个工程师有一条明摆着的途径就是尝试自己制造一台有智慧的机器它会促使你关注那些产生智慧需要的组件。这有点像是航空学的先驱们从鸟类身上得到启发但也同时也不是全盘照抄。我们其实不需要模仿生物智能或者是大脑因为它的功能的很多方面就只是受制于生物化学或者生物学的基本规律而不是真的和智慧本身有多大关系。就像羽毛对飞行来说不是必须的真正重要的是其中隐藏的空气动力学原理。Metz有些人曾认为LeCun是个彻头彻尾的疯子他所做的研究都是徒劳。当时如果你参加大型人工智能会议说自己研究的是神经网络学术界主流肯定会把你排斥在外。当时神经网络都是些边缘研究。Yoshua Bengio在1985年神经网络是边缘研究我在麦吉尔大学学不到这门课程。我学的是经典的符号人工智能。所以我必须说服我的教授指导我研究神经网络。我获得了政府奖学金所以我可以自行选择研究主题这对教授来说没有任何损失。我和他达成了一项协议我可以做机器学习但我必须把这一研究应用到他所关心的领域——语音识别。LeCun大约在1986年当时出现了一股神经网络浪潮。物理学家对这些模型产生了兴趣提出新的数学方法这使得该领域再次被主流接受这引领了上世纪 80 年代末和 90 年代初的神经网络浪潮。有些人制造了基于神经网络的系统来做一些实际的事情比如信用卡诈骗检测。我研究出一个基于符号识别来读取支票的自动化系统。1995 年Pomerleau 正在演示他的自动驾驶汽车Metz卡耐基梅隆大学的 Dean Pomerleau 在上世纪 80 年代末基于神经网络制造了一辆自动驾驶汽车这辆车可以在公共道路上行驶。LeCun 在上世纪 90 年代使用这一技术建立了一个可以识别手写数字的系统最终这一系统被银行所使用。从80年代末到90年代神经网络再次复兴出现了一些实际应用LeCun 的工作就是最好的例子。但之后又到了上限主要原因是计算能力有限、缺乏可用数据。人工智能的冬天再次袭来。Jurgen Schmidhuber我们肯定没有使用那些加拿大人注此处指 Bengio的算法他们在使用我们的算法。LeCun 本来是法国人我们在用他的算法。这很好。他有很多的贡献这非常重要、非常有用。我已经与这些研究人员认识很长时间了。我第一次见到 Yoshua 时他与我的学生发表了同样的研究或多或少一样那项研究我的学生在四年前就发表了。几年后在一次会议上我们摊牌了所有的一切都真相大白。研讨会上大家进行了一场公开辩论很明显是谁先做的研究。这不会令人不悦只是澄清事实而已。进行科学研究就是澄清事实。而 Bengio 否认了 Schmidhuber 的说法。LeCun当时的问题是这些方法需要复杂的软件、大量的数据以及高性能的计算机。没有多少人有机会利用这些资源也鲜少有人乐意投资。在上世纪 90 年代中期至 2005 年左右人们选择了更简单的方法——没有人真正对神经网络感兴趣。对Geoff, Yoshua和我来说这真是一段黑暗时期我们并不感到痛苦但会有点悲伤。我们认为存在明显潜力的研究大家竟然选择视而不见。Hinton当然我们一直相信神经网络并致力于这一研究。但是工程师们发现在小数据集上其他的方法与神经网络相比也同样有效或者更加有用所以他们选择了其他方法认为神经网络只是我们的一厢情愿。致力于让神经网络更加有效的人在当时相当少。CIFAR 让世界各地与我们抱有相同想法的人有了更多交流。这时候到了转折点。LeCun正是由于这一小群人坚持认为神经网络是正确的选择最终神经网络重回大众视野。2003年Geoff 当时在多伦多CIFAR 找他做关于神经计算的程序。我们聚在一起决定努力重燃对工作的兴趣。但是发布我们的想法之前我们需要一个安全的地方来举办一些小型研讨会和会议真正地发展我们的想法。该项目于 2004 年正式启动到 2006 年出现了一些非常有趣的论文。Geoff 也在《Science》上发表了一篇相关论文。2006 年 Hinton 《Science》论文中的人脸识别图像Trudeau在上一个人工智能寒冬当大多数人放弃神经网络研究有些人继续前进加拿大悄然建立现代 AI 研究的基础那我可以肯定地讲加拿大在这方面在支持纯粹科学研究上一直做得很好。我们给真正聪明的人提供了做前沿研究的机会即便他们的研究可能不会落地到商业或某些具体的地方。Hinton2006 年在多伦多我们开发出了这种训练含有多个层的网络的技术它比以前的技术更高效。同一年我们在《Science》发表了一篇论文它产生了很大影响也为我们的主张起到了很大支持作用很多人重新燃起了对神经网络的兴趣。2009 年的时候我的实验室里有两个学生开发了一种用深度神经网络做语音识别的方法它的效果要比当时所有别的方法都好。其实它的提升也就只有一点点但是相比之下当时别的技术的发展已经陷入了停滞30年了都没有实质性的进步。深度神经网络只需要几个月的时间就可以比那些方法做得好很明显可以看出来只需要短短几年时间神经网络就还可以有大的发展。Metz大概 2009 年的时候Hinton 很巧地遇到了微软的语音识别研究员邓力。就像其他人一样邓力相信 AI 的呈现形式不应当只有符号化 AI 一种。对于符号化 AI 语音识别系统需要由一行又一行的代码组成需要人工设定系统的每一个行为的具体细节系统研发也进行得非常缓慢。Hinton 表示他尝试用神经网络做语音识别而且已经有了实质性进展。神经网络能够学会分析语音数据中的模式而且运行速度也要比一行行代码组成的符号化 AI 系统要快。邓力这时候并没有完全相信 Hinton 的话但他邀请 Hinton 来微软继续推进这项研究最终还有两位 Hinton 的合作者也一起来了。微软的语音识别技术由此跨越了一大步2010 年时谷歌也跨了一大步。后来到了2012年底Hinton 和两个学生一起在图像识别方面也做出了突破性进展把之前的所有方法都远远甩在了身后。也就是直到这个时候微软和谷歌之外的业界公司们才开始意识到这个想法有多么厉害。值得注意的是这些都是很老的想法了。但现在神经网络背后的计算能力和数据量就和以前大不一样。对于微软和谷歌这种规模的科技企业他们需要数以千计的计算机共同运行处理文本、视频等等各种东西。让神经网络获得成功的正是这些训练网络需要许多的数据同时你还需要足够的计算能力支撑网络的训练。办公室里的 HintonLeCun如果你要问为什么过了这么久才成功那我的回答是科学研究就是这样的人类的心理也就是这样的。当一种新技术出现的时候要先有足够的证据能说服人们它能行然后人们才会开始大规模使用它。但神经网络的这些方法一直有「挑剔」的坏名声想要发挥出效果也需要一些「黑魔法」。Richard Sutton计算能力能这样快速而持久地提升这是十分惊人的。现在想要开发更复杂的算法的人和想要开发更快的计算机的人之间仿佛在比赛一样。对于设计的算法的人来说已经可以考虑设计运行在未来 5 到 10 年内新出现的计算机上的算法了。计算机需要什么是好的、什么是不好的。所以人类会给它一个特别的信号叫做「反馈」reward。如果反馈值高那就说明是好的如果反馈值低那就说明是不好的。这就是这种设计的目的。神经网络可以存储学习过程而强化学习就是让你决定你想要改变什么。Bengio距离实现 Geoff、Yann 和我想象中的那种无监督学习还有太远的距离。差不多企业做的基于深度学习的产品都是主要依靠监督学习的计算机通过上百万个案例学会再遇到一个的时候要做什么。人类当然不是这样学习的我们能自主地学习。我们能够自己探索身边的这个世界。2 岁的小孩就对基本的物理规律、重力、压力等等有了直觉根本不需要他的父母先给他教会牛顿的力学定律和万有引力定律。我们观察这个世界、和世界互动然后对这个世界中的事物会如何运行、自己做了一件事以后接下来会如何发展形成自己的见解。我们的研究正在转向无监督学习的新阶段同时它也可以和强化学习方面的成果联系起来。我们并不仅仅观察这个世界而已我们还与世界互动根据动作产生的后果来搞清世界的运行规律。LeCun我很感兴趣的课题是如何让机器可以像人类和动物那样高效地学习。当学习开车的时候你心里知道如果你开到路外面了就不太好。我们人类能够预测自己动作的后果这也意味着我们在做一件事之前就能意识到这件事是好事还是坏事。所以我正在追求的目标是找到一些训练机器的新方式让它们能够通过观察学习从而也就能构建出对这个世界的预测模型。如今世界上的某一种生物都对自己所处的环境有预测能力。一种生物越聪明他们的预测能力就越高。从某种意义上可以认为「预测」就是「智慧」的核心然后再加上根据自己的预测做出对应行动的能力就好。未来 3 年、5 年、10 年或者 15 年我们很有可能就做出一些显著的成果其实这并不算遥远。不过接下来在这个基础上做出接近人类智慧的系统就需要很长时间了可能要花好几十年。Bengio我觉得人类的工作不见得会被机器人取代即便机器变得非常聪明甚至比人类还聪明。有一些工作的本质是人和人之间的互动这类工作我们永远都希望是人在做。比如我就不喜欢让机器人照顾自己的小孩或者长辈以及我住院的时候照顾我。我并不担心《终结者》那样的事情发生。我相信如果我们能够制造出和我们同样聪明的机器那他们也就已经有能力理解我们人类的价值取向和人类的道德观从作出对人类有利的行动。我真正担心的是 AI 有可能被滥用比如把 AI 用在武器中。AI 用在广告中可以影响人们我们已经可以看到这样的事情发生。对于 AI 的使用可能有道德或者伦理问题的地方我们应该直接设计法律来禁止。人类作为一个整体需要变得更聪明一些。Sutton我觉得我们把这个领域称作「人工智能」就是一个很大的错误。它给人带来的感觉是仿佛它和人类很不一样而且也不是真正的智能。这种说法给人们徒增了很多「异类」的感觉但其实我们在做的事情是一件很有人情味的事情在机器上重现人类的智慧。一直以来科学揭示的真相都不是所有人都喜欢的——你确实得到了真相但这真相并不是你预想的那个样子。可能这也就是历史上宗教总会和科学间产生冲突的原因。我觉得随着我们对人脑的研究越来越多同样的事情也会发生。也许我们永远都找不到「意识」这件事的解释有的人会喜欢这个结果也有人会不喜欢。科学改变不了客观真相。每次世界的趋势发生改变的时候总是会区分出赢家和输家而未来还有很多巨大的变化等着我们。我觉得我们自己就会变成有智慧的机器。我们应当把 AI 看做我们自己或者看作我们的后代。我们可以按照自己觉得合适的样子打造它们。那么人性是什么人性是一种想要变得更好的不懈动力。我们不应该尝试把所有的一切都停留在原地然后说这就是应有的样子。2011 年Hinton 和 Bengio 在盖茨比研究院组织的 workshop 外散步LeCun除非我们真的知道以后会发展成什么样子否则对此的任何担心都只是杞人忧天。我不认同技术奇点的想法就是说有一天我们造出了拥有超级智慧的机器之后他们就马上可以自己制造出更聪明的机器从此一发不可收拾。相信这个概念的人大概是忘了所有的物理或者社会现象都会遇到各种各样的阻力一个指数曲线的增长过程是不可能无限地持续下去的。好莱坞电影里那种「某个阿拉斯加的天才弄清了 AI 的奥秘造出了一个超智慧的机器人然后它统治了全世界」的故事是不可能发生的这简直太荒唐了。Trudeau这件事我并不非常担心。对于理论上 AI 会有多危险我们看过的科幻小说和科幻电影已经够多了。我觉得我们应该保持一个常识就是技术可以用来做好事也可以用来做坏事。让我感到欣慰的是加拿大就在好的一方里它在尝试把大家保持在正确的道路上。我也不希望减缓我们研究的步伐减缓我们弄清宇宙的真谛。这里真正的问题是我们想要一个什么样的世界我们是希望成功的人都要躲在栏杆围起的花园里所有别的人都很嫉妒、出门的时候会带着干草叉还是希望这个世界上的每一个人都有做出贡献、做出创新的机会Hinton我觉得这些东西的社会影响很大程度上取决于我们所在的政治系统。本质上提高商品制造的效率应当会增加社会的总福利。反而会带来不好的后果的话只有一种可能那就是这个社会会把生产力提高带来的好处全部给了社会顶端 1% 的人。我住在加拿大的其中一个原因就是合理的收税制度如果你挣了很多钱你也需要交很多税。我觉得这样的设计很棒。我觉得真正重要的是我们无法预测未来。只要你开始尝试猜测未来 20 年可能会发生什么你几乎一定会错得离谱。不过也有一些东西是我们可以预测的比如技术进步最终会改变一切。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
