九、吴越的问题

李玉教授说，关于凯文凯利的观点，她没有更多要说的。毕竟她也没有做深入研究。“那是另外一扇门，门后是另一个世界。”

但宋元却痴迷于其中。并且他还说服了明媚。

明媚整天和宋元在一起，这让吴越很不满。

于是，吴越和宋元偷偷立下赌约：谁先造出有自我意识的机器，谁就将赢得明媚。

吴越提出为公平起见，明媚不能加入宋元的团队，她必须中立。

两个顶级科学家在各自熟悉的领域展开了“军备”竞赛。

可以说一开始吴越看上去就领先了。毕竟制造机器人已经有一百多年的历史了。造一个能说人话，会交流，看上去有意识的机器人并不难。沿着这条道路走下去，只不过造的更像点而已。

但这只能糊弄一般人，糊弄科学家可不行。科学家有一套严格的方法来判定机器人是否有人工智能，比如前面提到的图灵测试。

吴越每做出一版新机器人，都会拉来明媚做测试。他有两方面考虑：一来增加自己和恋人接触的机会；二来明媚本人就是顶级科学家，她是一个很好的测试者。

测试并非真的用语言交流，毕竟合成语音和真人还有差别。那是另一个研究领域。他们现在重点关注的还是人工智能。

所以，他们通过网络进行测试。有两个测试对象A和B，明媚通过网络对话将他们区分出来。A和B可能一个是机器人，一个是真人，也可能都是真人。

不出预料，前面的若干版本明媚只需要花几分钟就能把机器人区分出来。

智能机器人的弱项是什么？是缺乏对自然语言的识别处理能力，当同义词、俚语、口语出现的时候，机器人就会抓瞎。例如：明媚说我们摆摆龙门阵好吗？或者说我们唠唠嗑好吗？意思都是闲聊，但机器人未必明白。

当然，自然语言理解中最难之一的莫过于能否听懂冷笑话了。别说机器人，不熟悉一地文化，没有一地生活背景的外乡人，听了当地的笑话通常也会一脸茫然。

关于冷笑话测试，能听懂的基本可以断定是真人，没听懂不一定是机器人。

再有，真人的好奇心效应。测试者先问被测者有哪些兴趣爱好，被测者回答后，测试者根据其兴趣爱好，提一个挑战性问题，正常的真人通常会刨根问底，并且每个问题都会环环相扣。但机器人会表现得有时很茫然有时很无厘头。

例如，有一次对话是这样的：

明媚问：“你有什么爱好？”

答：“旅游、美食、购物等。”

明媚提出挑战性问题：“据说要在南极洲建一个大型娱乐城，购物娱乐为一体……”

正常人答：“怎么可能？那么冷！”

机器人答：“好呀，有机会我一定去！”明媚针对正常人继续问：“没关系，可以在南极洲上空放一个人造太阳……”

正常人答：“扯，南极洲上的冰雪化了，海平面就会上升，多少城市会被淹没，估计日本列岛和荷兰就彻底沉海底了。”

如果机器人回答这个问题：“那一定很暖和！”

也就是说，机器人在自然语言的理解、逻辑思考方面都有问题。

吴越造的机器人没有通过明媚的测试。反过来，明媚劝吴越和宋元合作，她告诉吴越，宋元的项目有显著进展。

吴越拒绝，他认为宋元无非采用了神经网络的算法，这并不新鲜，这种思想远在二十世纪四十年代就提出来了。

宋元一个生物学家，这个设想的实现不也得靠明媚？

但吴越并不排斥看看宋元的项目。

外围设备是没什么可看的，都是市面上采购来的。吴越想看核心算法，被宋元以不成熟为由拒绝了，但欢迎他做图灵机测试。

于是，吴越试着提了这么几个问题：

“什么是猫？”

机器人答：“一种小型哺乳动物，头圆、颜面部短，前肢五指，后肢四趾，趾端具锐利而弯曲的爪，爪能伸缩。夜行性。以伏击的方式猎捕其他动物，大多能攀缘上树。猫的趾底有脂肪质肉垫，以免在行走时发出声响，捕猎时也不会惊跑鼠。行进时爪子处于收缩状态，防止爪被磨钝，在捕鼠和攀岩时会伸出来。”

吴越露出不屑的笑容，这也不过是从百科数据库中搜到的答案，不过尔尔。

再问：“我前几天也看到过一个头圆、小脸的东西，是猫吗？”

机器人答：“可能是猫，也可能是其他猫科动物，甚至可能玩具。”

吴越仍不屑，这一定是用头圆、小脸做查询条件查询数据库的结果。

吴越接着问：“我没有见过猫，所以根据你的描述我仍然不知道什么是猫！”

机器人停顿了片刻，看样子在做运算，然后答：“见过老虎吗？”

机器人居然反问了吴越一句。这让吴越很意外，这必是程序设计的。

吴越想了下，自己若回答见过，机器人必定回答猫和老虎很相像，只是小很多。

于是，吴越答：“没见过！”

吴越心说不会问我见过豹子吧？

机器人问：“见过什么动物？”

吴越想不能告诉它一个和猫相近的动物，答：“我见过蛇！”心中得意，倒要看看机器人怎么把蛇说成猫。

机器人又沉默着运行了片刻，答：“您应该少待在屋子里胡思乱想，要多出去走走，晒晒太阳，在公园里您很容易就会遇见猫！”

站在吴越背后的明媚、宋元都笑了。这让吴越很难堪。

吴越决定讲个笑话找回面子，笑话如下：

“用户：我怎么总是上不去网啊！客服询问了一下情况：可能是你的猫的问题。

用户：好，你等一下……好啦，我家的猫已经让我关在外面了！”

机器人又沉默了片刻，答：“叫猫的上网设备是上个世纪的东西，那个用户不明白原因是客服没说清和动物猫的区别。并不可笑。”

吴越又尴尬了。

但事情并没有结束，紧接着机器人说：“我也给你讲个笑话吧，从前有一个人不认识猫，就去问智者，智者说猫是一种头圆脸小夜行捕鼠的小型哺乳动物，但他还是不认识。于是他回家想上网查查，结果上不了网。他打电话问客服。客服说一定是猫出问题了。他说猫不是一种头圆脸小夜行捕鼠的小型哺乳动物吗？它也管上网？！”

作为科学家吴越笑不出来，他沉默了，他不得不承认宋元他们走在了前面，这个机器人初步具备了人工智能。从机器人讲笑话这件事上，至少反映出三方面的问题：

第一、它进行了创作，这个笑话显然是它编的。

第二、它是即兴创作，根据的是临时出现的素材，难度更大。关于猫的问题是吴越临时想出的，事先并没有告诉宋元和明媚。

第三、也是给吴越最大震动的，他感觉到了这个机器人有情商。它在维护自己的自尊，它自诩自己是智者，又在笑话里调侃了吴越。

吴越到底憋不住问明媚：“怎么做到的？”

明媚答：“不知道！”

“难道还保密？”

“不是保密，而是确实不知道机器人为什么讲那个笑话！”

“那一定采用了神经网络算法？”

神经网络最著名的缺点，就是“黑匣子”性质。这意味着你不知道你的神经网络将会如何产出结果，更不知道为什么会产生这种结果。

例如，把一张猫的图像放入神经网络，结果告诉这是个汽车。但你没办法找出为什么会做这样判断。

而传统的算法是可以倒溯回去查明算法哪里出了问题会导致这样的结果。

明媚答：“这不是秘密，肯定采用了，但不止！”

“那还有什么算法？”

“不是我不告诉你，而是我们也找不到一个合适的名称。你知道宋元是生物学家。”

“生物算法？遗传算法？进化算法？”

“都有吧，还没正式名称！不过，的确它自己在繁殖、进化。现在应该是十万多代了，如果继续进化下去，相信表现会更好。”

吴越回去后，闭门了半个月。他在想对策，不仅是课题，还有自己的面子。

根据明媚的说法，吴越推断出宋元的所有设想还是借助软件代码实现的。因为生物繁殖，根本做不到这么短时间繁殖十万代。而代码繁殖，就像计算机病毒的复制，再加适量的变异过程。

如果是软件代码实现，那么硬件必然还是基于冯诺依曼架构，那么根本上该有的局限性仍然会有。比如：在物质世界中，一件事对另一件事的影响随两者之间的时间或空间距离的增大而衰减。因此，我们在研究木星卫星的运行轨道时不去考虑水星的影响。这是物体和作用力这一对相互依存的概念所遵循的基本原则。作用力的局限性体现在光速有限，体现在场的平方反比定律之中，还体现在宏观统计效应上，如反应速度和音速等。

而在代码构造的世界里，一个随意的微小事件有可能造成重大影响。比如，一段小程序可以抹去所有的内存；一条简单的指令可以使主机停止运行。在代码世界里没有类似于距离这样的概念。没有哪个存储单元比别的存储单元更不易受影响。

也许可以在代码世界里引入距离的概念，但现实世界里还会有别的限制因素在发挥作用。最根本问题在于代码世界模拟的复杂度永远无法和真实世界的复杂度相比，或者严格意义上说真实世界是无法真正被模拟的。

吴越找到了反击的要害。

吴越再去找宋元和明媚，要求再对机器人做一次测试。

宋元、明媚欣然应允。

但吴越提了一个要求，他要单独进行。

宋元犹豫。

吴越说：“放心，我就是问几个问题，最多五分钟。我也不可能做别的操作。而且事后你们可以查聊天记录。”

的确，吴越能接触的也仅仅是机器人的对话窗口。后台机房他是进不去的。

宋元、明媚离开，吴越独自问了几个问题，五分钟后也离开了。

但是不久，明媚怒气冲冲找到吴越：“你究竟干了什么？”

“我就是问了三个问题，它没回答我就走了！”吴越满脸惊诧。

“你到底问了什么问题？那个机器人陷入了无限的死循环，最后就自己抹掉内存宕机了！”吴越也很震惊，这很像人类的自杀。

“你说呀，它抹了内存数据，我们也看不到你问了什么鬼问题！”

“我只不过问了三个哲学上的终极问题：我是谁？从哪里来？要到哪里去？”<!--PAGE 4-->