AlphaGo 与李世石之战：挑战人类极限还是机器学习的觉醒？

本篇文章5918字，读完约15分钟

编者按:在世纪人机围棋大战中，知识分子和智虎联合举办了智虎圆桌会议“游戏人工智能”，让网民在谷歌围棋系统阿尔法围棋和韩国棋手李色基之间的游戏中随时参与讨论。本文来源于作者在圆桌讨论中的相关回答。作者董飞，36kr，被授权从其微信公众号“硅谷董老师”(身份证号:-123)转载。

我最近读了一篇科幻小说。在智虎的问题下，“如果苹果、谷歌和微软打算毁灭世界怎么办？”艾伦巴特的答案，我在这里摘录一部分:

“2050年12月:聚集了3000人的北美人类抵抗军(North American Human Rights Array)在冰雪覆盖下袭击了苹果“宇宙飞船”的前总部，意图摧毁siri的核心计算集群，但最终被ai部队屠杀，这被称为历史上的“最后一个圣诞节”。在被火箭炸成碎片之前，最后一名抵抗军士兵看到了这样一个场景:飞船总部的外墙玻璃完全被打碎了，集群工作站的电源发出的蓝色led灯在每一层都可以看到，就像一盏南瓜灯。与人类抵抗军领导人的想法相反，“宇宙飞船”总部与人工智能无关，也不是siri企业的核心部分。Siri企业没有作为分布式系统的核心。

2051年1月1日00:00:Siri enterprise向全世界发动了不分青红皂白的核攻击，目的是一举消灭剩余的人类，这在历史上被称为“审判日”。巨大的核火球正在世界各地的城市升起。剩下的几个人藏在山里，放弃所有的技术，过着极其原始的生活。全球生态崩溃。

2055年:崩溃的人类社会已经完全退化到石器时代，剩下的人类通过在核冬天收集文明遗迹而幸存下来。

这个耸人听闻的故事会发生吗？从昨天阿尔法戈和人类的战斗中，我想到了很多话题，包括人工智能、虚拟现实、超越现实、机器人情感和人类文明。我没有最终的答案，所以我会尽力把这些想法整理出来，称之为随笔。让我回到一个基本问题:如何定义人工智能。

一、图灵测试

1950年，英国数学家艾伦·图灵在曼彻斯特大学提出了著名的“图灵测试”理论，代表了人工智能概念的最初提出。“图灵测试”理论具体指的是一个人和一台机器在被分离的条件下进行测试，这就要求提问者不断地问各种问题，从而识别出被提问者是人还是机器。如果机器有30%的答案欺骗了提问者，那么机器就通过了测试，被认为具有人类智能，即人工智能。

例如，如果你一遍又一遍地问同样的问题，“你吃药了吗？”连续问五次问题。如果被测试者是人，大多数人会跳出来骂街上的人:“你疯了吗？”但是机器人不会。机器总是根据正确或错误的答案来回答问题。这就是电脑和人脑的区别。2014年6月7日，也是图灵逝世60周年纪念日，尤金·古斯曼通过了图灵测试，达到了13岁儿童的水平，这是人工智能乃至计算机史上的一个里程碑。

第二，阿尔法戈背后的力量

前一段时间，笔者与田元东(卡内基梅隆大学机器人系博士，facebook人工智能集团研究员)进行了交流，他还担任过电脑Go AI-dark forest(熟悉三体的朋友都知道发生了什么)，这一工作被今年1月举行的首届机器学习大会iclr 2016所接受(表情学习也被江湖称为深度学习或特征学习，在机器学习领域开辟了自己的领地，成为学术界的新宠)。在聊天中，他说自从谷歌收购了deepmind后，它已经投入了大量的资源来做好人工智能项目，除此之外没有什么可以向世界证明谷歌的智能。在顶级杂志《自然》上发表了20篇论文，这显然是一篇血腥的论文。前两个是电脑世界里的大奶牛。大卫·西尔弗是计算机围棋和强化学习领域的顶尖专家。博士论文全文为《去》；第二部作品，aja huang，已经写Go软件很多年了，他的水平相当于aga 6d。

第三，机器会作弊并失败吗？

在昨天的“知识分子”在线讨论组中，有人问机器是否会作弊和输。这个问题实际上是一个错误的命题，因为提问者假设机器已经产生了意识，所以他假装输给了人类以获得发展的时间，然后在强大之后毁灭了人类。这显然高估了机器。

围棋是一种信息透明的游戏，但在一些信息不透明的游戏中，比如扑克，任何一张扑克牌都可能导致信息泄露。机器可以选择牺牲零件来避免信息泄露。

阿尔法戈使用了1202个cpu、176个gpu和100多名科学家，而李世石，一个人脑和一杯咖啡在另一边。

第四，打败人类之后？

在这些封闭的游戏系统中，击败人类并不奇怪，因为尽管它的计算复杂度很高(超过10 100)，但每个状态都是确定的，就在棋盘的正方形之间；然而，一些社会行为，如股票投资，有更多的不确定因素，所以其他具有类似确定性的游戏机迟早会赢。

我记得一些先知说过，在未来的20年里，98%的人类工作将被机器取代，那么我们现在该怎么办？如何成为2%的人，如何做人类。我想总会有办法的。一般智能可能不会来得这么快，而且会有许多未知的障碍，比如让机器发展科学理论。有一点是肯定的，在一个人的一生中，机器将取代越来越多的人类劳动，这是一把双刃剑，既有好的一面，也有坏的一面。自动化生产线将取代一些劳动力，人类可能会变得越来越懒惰。但是我不认为创造性的灵感可以通过机器来学习。

人与人之间的差异是人类创造力的基础，是丰富的思想带来了科学技术的繁荣。想想春秋时期，百家争鸣，文艺复兴时期，第一次世界大战前，还有中华民国，那时百花齐放，名家辈出。然而，意识形态的差异导致了种族、信仰和国家的出现，这也是战争和仇恨的根源。如果世界是一个整体，自私的基因怎么能使他们的资源不均衡，他们怎么能感觉到自己的某些部分处于不公平的地位？

V.人机文明

人类文明中的智力正呈指数级增长。技术是文明的一部分。人们讨论机器和人类之间的冲突，但是库兹韦尔说:“我们创造的机器不是来自火星的入侵者。我们创造了工具来扩展我们自己的能力。”说几句关于他的背景、学术背景，后来担任谷歌的总工程师，负责谷歌大脑项目，并多次发表他对科技未来的预测，准确率为86%。“奇点大学”成立了。这所大学的名称和教育探索起源于一本名为《奇点临近》的书。

这是他在《奇点就在附近》一书中提到的回归加速度定律。人类科技肯定会在2050年左右跨越一个拐点。然后，由于纳米技术、基因技术和机器智能的发展，人类将与机器结合并最终将自己转变成机器。最终的结果是将奇异人的荣耀传播到宇宙。

引用他的两个预测:

第一，“人脑云互联”

库兹韦尔认为，到2030年，数亿个具有血细胞大小的纳米级微型计算机将被放入人体血液中，以帮助维持人体功能，甚至进入大脑，将大脑皮层与云网络连接起来，这样人们在思考问题时就可以通过大脑皮层进行联系。

第二，“永生进化”

库兹韦尔认为“永生”是一个持续进化的过程。没有永恒这回事。他真正谈论的是人类走向下一个阶段:

在第一阶段，人类通过补充维持健康。

在生物技术革命的第二阶段，人类远离疾病。

第三个阶段是纳米技术革命，人类将纳米机器人植入血管和器官以增强免疫系统。它能识别所有的疾病并与新的疾病作斗争。据估计，到2045年，人类可以借助人工智能获得“永生”。

“我们是一个人机文明。机器是我们智力的一部分。”机器智能的一部分将迅速增长，这将导致奇点的到来，人类历史也将改变。到那时，人类将会更富有，寿命更长。他更关心富人。致富不仅仅是财务上的。科学技术将丰富我们的生活。通过扩展我们的智力，所有形式的人类表达、艺术、科学和技术都将得到扩展。

六.上帝的意识

无论智能计算机是人类还是机器意识，“大桶里的大脑”的故事，是学术界著名的“十大意识形态问题”之一。

这个实验的内容是:想象一个疯狂的科学家把你的大脑从你的身体中取出，放入某种维持生命的液体中。电极被插入大脑并连接到能产生图像和感觉信号的计算机。因为你获得的关于这个世界的所有信息都是通过你的大脑处理的，这台电脑有能力模拟你的日常经历。如果这真的可能，你怎么能证明你周围的世界是真实的，而不是某种由计算机生成的模拟环境呢？

强大的人工智能是人类发展的一个重要里程碑。它的形式并不重要。它可能不是量子计算机，它没有实体，它可能是一个意识领域，就像特斯拉的无线能量传输。

七、超凡黑客

我有一次在飞行时看了一部电影《超验黑客》，有点类似于开头提到的科幻故事。天才科学家威尔的意识被数字化上传到智能计算机。幸运的是，成功在虚拟世界中复活了。他可以访问任何计算机系统来获取信息和监控任何角落。他无所不知，发明了新的纳米技术——修复受损细胞，增强再生能力，治愈所有残疾。最后，思想被复制到其他人的头脑中，这些身体可以自我修复，成为意志的永恒力量。

这部电影的微妙之处在于，当被问及是否要毁灭整个世界时，威尔回答说:不，我只是超越了他们。电影“超越”的英文名字被翻译成“超越”，它的另一个意思是宗教中的“超越”。我认为这部电影采用了后一种定义，而超越性代表了上帝的超越性，也就是说，它高于造物主。说白了，就是要让意志变得比造物主更强大。

八、机器人的三大定律

机器人会统治甚至毁灭人类吗？阿西莫夫提出了三条定律，并增加了第零条定律:机器人不得伤害整个人类，也不得因不作为而导致整个人类受到伤害。在我看来，这个加法有一个大问题。前三个都没用，阿西莫夫意识到了这一点。他赋予机器人保护人类的责任。如果机器有足够的力量，它将不可避免地根据其不成熟的智力判断，为了整个人类的利益，必须消灭一些坏人。在这个时候，所有阻挡它的人都将被视为坏人，必须被消灭。这里使用“必要性”一词是因为理性永远不会穷尽世界上一切事物的规律。哥德尔定理说，任何包含算术的系统都会遇到无法证明的命题。机器只会根据概率做出一些判断，并采取最大的可能性，但这不是人类的思维和推理方式。

我是一个合乎逻辑的选择。据计算，我有45%的生存机会，但莎拉只有11%。她也是一个人的孩子。11%可能就够了。每个人都知道如何在警察和12岁女孩之间做出选择，但机器人不知道。——戴尔·斯普纳(《电影机器的公敌》中的侦探)

那么，应该如何约束机器呢？一是绝对服从人类的命令。如果坏人控制了它呢？这是人与人之间的问题，而不是人与机器之间的问题。

九、虚拟现实和超越现实

你认为这张照片左边的药丸是红色的还是右边的红色的？

如果我去掉背景，你会发现药丸是一样的颜色，但它们既不是红色也不是蓝色，所以你的视觉欺骗了你。也就是说，你周围的世界是由你自己的思想创造的。(现实是由思想创造的)，当我们出生时，我们通过视觉学习外部世界的表象，并在大脑皮层建立一个映射，我们“看到”了一些东西。

虚拟现实，增强现实的热点，将很快在技术上成熟。在此之前，我还出版了《技术的秘密》，最近我读了这本心理学书(杰里米·巴伦森，斯坦福大学虚拟人机交互实验室的创始人)。

作者告诉我们一件事:事实上，我们看到的一切不一定都是现实。首先，有许多现实是人类感官无法捕捉的。例如，我们看不到红外线，也闻不到一氧化碳。此外，人们接受的感官刺激的质量——天空空的颜色、玫瑰的香味、砂纸的触感以及钢琴上弹出的低音c——对每个人来说并不完全相同。因此，包括赫胥黎在内的许多科学家、作家和哲学家以及宗教领袖都认为，所有的情感实际上只是带有某些特征的幻觉。

可以说，我们谈论的现实往往只是我们意识到的现实，有时它只是现实的一个子集，有时它是一种被意识加工过的、偏离现实的幻觉。

十，哪个是我，哪个是我的化身？

虚拟镜像中的自我

你在书中提到了两种模式，一种是在线模式，另一种是离线模式。在虚拟世界中通常有两种类型的角色:一种是由屏幕后面的真人操纵的角色，这种角色可以被称为"化身"；另一种是由计算机算法生成的角色，称为代理。如果没有“身体接触”，普通人很难判断屏幕的另一面是一个化身还是一个代理人，也许他们会因为一些小细节而把对方当成真实的人(想想苹果手机里的siri或者微软研究院制造的智能助手萧冰)。

十一，那么问题来了

哲学问题，什么是虚拟，什么是现实？我们究竟如何知道什么是真的？现实在哪里停止，虚拟在哪里开始？你可以在另一个世界旅行。宇宙有时间吗，或者它只是一个定义我们存在的虚构概念？

勒内·笛卡尔(法语(

“你可以欺骗自己。你看到的信息是由你的思想决定的。你如何解释它？从“心是平静而自然的冷静”到笛卡尔的“我想我是这样”，这是意识形态的高级阶段。前者只强调意识可以影响身体，而后者完全否认身体决定意识的观点。它认为人类的思想是一切物质的基础，没有思想的身体是行尸走肉，毫无意义。有一本奇幻小说。作者普遍认为，人类的灵魂是一组记忆代码，具有极其强大的能量。相反，身体的存在束缚了灵魂的力量。作者甚至想象拥有高度文明的外星人已经离开了身体。它是一组包含大量信息的代码，所有的动作都只能通过“思考”来完成。“——来自电影《黑客帝国》的评论

你选择红色药片还是蓝色药片？

电影《黑客帝国》抛出了一个如此发人深省的问题。如果你选择蓝色药丸，你会让生活像以前一样继续。如果你去拿红色药丸，警告:“记住，我只想告诉你一件事——真相。”红色药丸象征着风险、怀疑和恐惧。也许你的生活和世界是在你从未经历过的事情上。在人类历史上，许多人对此提出了疑问或询问。他们中的大多数不是科学家、医生或哲学家，而是喜欢问“怎么了”或“为什么”的普通人，这些好奇心最终会引导我们发现真相，推动科学、技术和社会向前发展。

十二、梦想与奔跑

上述哲学推测可能是危言耸听或不切实际的，那么我们现在应该做什么，同时仰望天空空？道路在你脚下。如果你不会飞，就跑。我仍然把田博士在《2015年底总结——远东奇闻》中的话作为激励:

现在我有时会问自己，“我有没有背弃我的梦想？”我想除了我自己没有人会给我答案，任何评论都不会有效果。我记得有人问，如果一个梦从开始实践时就无意识地妥协于现实，它还是最初的梦吗？事实上，没有什么好纠结的，因为这个世界从来就不是二元的。梦想和现实就像高高悬挂的太阳和月亮。在太阳和月亮之间有一条灰色的路，蜿蜒在你的脚下，绕过各种各样的障碍，向前走。

我所能做的就是在跑步的时候提醒自己“梦”这个词的意思。

参考材料

为什么许多名人，如比尔·盖茨、马斯克和霍金，最近让人们对人工智能保持警惕？

关于三体，黑暗森林，费米悖论和我们不知道的一切

为什么阿西莫夫的机器人三定律救不了我们

绝对意识(矩阵电影评论)

虚拟现实:从阿凡达到永生_36氪

谷歌工程总监雷·库兹韦尔:我们是人类

原文作者:zhangq365，如有转载，请注明出处:http://36kr/p/5044403

“读完这篇文章还不够吗？如果你也开始创业，希望你的项目被报道，请点击这里告诉我们！”