未来智能走向何方人有人的用途，机有机的用处

　　撰文：王飞跃中国自动化学会监事长、中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任
　　当今最好的人工智能程序到底有多智能？它们是如何工作的？能做些什么？我们有必要担心机器比人类聪明且将很快夺取我们的工作吗？以上这些问题都颇受人们的关注。广义歌德尔定理
　　GEB的作者侯世达教授在谷歌的一次内部研讨会上表示自己被人工智能的快速发展吓坏了开始。更具体地说，侯世达是被音乐智能实验（ExperimentsinMusicalIntelligence，EMI）的优美创作吓坏了，他曾这样说道：我被EMI吓坏了，完全吓坏了。我厌恶它，并感受到了极大的威胁人工智能对我最珍视之人性的威胁。我认为EMI是我对人工智能感到恐惧的最典型的实例。我曾听说过侯世达对人工智能的担忧，但当时不以为然，我认为一个对人工智能了解如此之深、认识如此之深刻的学者不应过度害怕智能技术。
　　作为一个坚信人工智能只是一项技术，不会主动侵害人类的科技工作者，我当时觉得这可能是由于侯世达远离科研一线太久或年纪增长的原因，但书中侯世达的自白，让我认识到我的猜测都不对，真正的原因在于音乐在他的心里有着一种十分神圣甚至神秘的地位。
　　在GEB一书的最后，侯世达曾列出关于人工智能的十大问题和猜想，其中第一个就是关于音乐的。那时他认为计算机可以谱写出优美的音乐，但并不会很快实现，因为音乐是一种关于情感的语言，在程序能够拥有我们人类所拥有的这种复杂的情感之前，它绝无可能谱写出任何优美的作品。我认为，侯世达由此对人工智能产生的恐惧是中国艺术家潘公凯错构理论的一种典型的体现，它不是一种在理性或技术层面的反应，而是一种本然的艺术或哲学性的反映。对此，我希望结合智能研究的起源以及我一直提倡的广义歌德尔定理来说明我的看法。
　　近代以来，人们对智能的认识源自数学家希尔伯特（D。Hilbert）的梦想，即数学推理机械化的希尔伯特纲领。伯特兰罗素（BertrandRussell）与阿尔弗雷德怀德海（AlfredN。Whitehead）为了给这一梦想奠定坚实的基石，二人花了10年的心血成就了一部三卷本的《数学原理》。但是不久，这基石就让三个年轻人击碎。先是歌德尔证明了不完备定理，接着图灵提出了图灵机，并将计算的本质归于机械的操作，进而约翰冯诺依曼（JohnvonNeumann）建立了数字计算机的逻辑操作结构。自此，我们有了现代计算机，并开始了人工智能研究，成就了今日之信息产业旧IT（informationtechnology，信息技术），目前，已开始迈向智能产业新IT（intelligenttechnology，智能技术）。在这一智能的计算化过程中，从邱奇图灵论题（ChurchTuringthesis）开始，在诺依曼有意无意的引导下，学界关于智能的思考和认识逐渐形成了两个派别：图灵派和歌德尔派。
　　图灵派本质上是计算主义，认为基于简单规则的计算可以涌现出复杂的行为和智能。从物理符号系统的逻辑智能到联结主义的计算智能，这一思想主导了人工智能至今的发展历史，是构建智能系统的主要理论和方法源泉。歌德尔派认为根本没有构建智能的一般规律和方法，而且现有的一些规律和方法不应成为第一性的，只有动因和信念才是本质，接受现状继续演化是发展人工智能的唯一途径。歌德尔派在人工智能的研究上至今并没有产生很大的影响，然而，在理解智能的影响和意义方面，歌德尔派的认识则非常重要，而且对智能科学的未来发展更具有指导性意义。
　　歌德尔认为，存在先于可计算的不可计算，即存在不可计算的客观存在。存在不可计算的物理、生命和数学过程，且计算机不能真正理解语言和想象等相关的活动。研究人工智能的第一位华人学者王浩晚年曾致力于歌德尔的思想与哲学的研究，他总结道：歌德尔认为机器不可能超越人脑，除非数学不是人类发明的。而且，就算数学不是人类发明的，机器还是无法超越人脑。
　　我曾把歌德尔关于智能的思想总结为广义歌德尔定理，即智能分为算法智能（algorithmicintelligence，AI）、语言智能（linguisticintelligence，LI）和想象智能（imaginativeintelligence，II）三个层面，算法智能无法超越语言智能，语言智能又无法超越想象智能。正如歌德尔在普林斯顿高等研究院的同事爱因斯坦所言：智能的真正标识不是知识，而是想象。
　　我们可以从两个方向来理解广义歌德尔定理：一是图灵的想法，即AI的全体和极限是LI，LI的全体和极限是II；二是II的局部和具体化是LI，而LI的局部和具体化是AI。计算机的智能只能是AI，无法达到人类所具有的LI和II层面。歌德尔对智能的认识及理解与中国哲学史上人们对《道德经》开头的两种不同解读十分相似：一是道可道，非常道，即凡是能被言说的道，就不再是永恒的本源之道，就像世上每一个能被看到的具体的圆形，都无法符合圆形的抽象定义一样；二是道，可道，非常道，即道有三种形态，自然中可执行的道（算法之道）、只能说出来的道（语言之道）、只能想象出来的道（想象之道）。总之，道一经说出，就不是本来的自然之道了。
　　哲学家伏尔泰曾说：定义你的术语否则我们将永远无法相互理解。然而前文的讨论使我们认识到，即便有了定义，我们在语言和想象层面上可能也无法彻底理解。在人工智能领域，智能思维意识认知情感等术语很难定义，且至今没有达成共识。这也正是20世纪的科学哲学家托马斯库恩（ThomasKuhn）在其3C理论中所阐述的：在人类语言词典及其多维结构里，我们进入一种本质上不可公度、不可比较、不可交流的境地。或许，在量子力学中的薛定谔的猫或海森堡的测不准原理之外，我们在智能的AI、LI、II层面上是否分别存在各自的算不清原理说不明原理想不准原理？
　　回到侯世达对人工智能的过激反应这一问题，我想再用世界围棋高手柯洁的例子加以说明。在李世石以14输给AlphaGo之后，柯洁发表了迫不及待想要挑战AlphaGo的声明：就算AlphaGo战胜了李世石，但它赢不了我。在以03的比分负于AlphaGo之后，柯洁浑身颤抖，只想大声痛哭，认为AlphaGo实在太完美了，并称它就是上帝。我记得在《时代》杂志上首次看到这一报道时，我的第一反应就是：上帝？谁的上帝？反正不是我的上帝。在我看来，柯洁的反应与侯世达是一样的，是专业执着后的应激错构，我们没有因为柯洁的失利而对AlphaGo感到畏惧，也无须因侯世达而对人工智能感到担忧。实际上，我认为，对这类问题进行持续深入的讨论应是哲学家或有闲阶级培养智能科学素质的脑力练习，专业人员更应关注探索人工智能技术及应用的合法、合规、合理与合情问题。
　　广义杰文斯悖论
　　讨论完对人工智能的恐惧之后，我们再来看看人工智能对人类工作的冲击。近年来，在这方面总有许多令人担忧的言论，如机器取代人人工智能将使5070的人失业，有些世界著名的科学家和企业家甚至声称人工智能的兴起意味着人类文明的终结。
　　正如哲学家黑格尔所揭示的：历史给我们的教训是，人们从来都不知道汲取历史的教训。实际上，人类在过去100多年内至少经历了三次这种担心，这就是老旧新三次IT变革。当年，人们对老IT（工业技术）的担心远大于今天我们对新IT（智能技术）的担心。在工业革命的发源地英国，纺织工业诱发羊吃人现象，女王担心机器的大规模使用将使她的臣民变成乞丐，民众更是揭竿而起，干脆一把火将机器烧了。
　　70多年前，诺伯特维纳的控制论和数字计算机的出现开启了旧IT（信息技术）的变革，又一次引发社会对机器取代人类工作的担心。为此，维纳还发表了《人有人的用处》（TheHumanUseofHumanBeings）来专门讨论这一问题，其中特别强调信息永远不能取代启迪（Informationwillneverreplaceillumination。）。启迪是语言和想象的核心功能，因此机器及其生产的代码与信息根本无法取代人类，而且，计算机还为机器取代人做了一个绝好的说明。20世纪50年代之前，英文中computer一词其实是指从事计算工作的人类，但今天作为机器的computer已经完全代替了作为人类的computer；然而，被称为computer的机器，不但没有使人类大规模失业，而且还为人类创造了更好、更多的新工作，比如程序员、架构师、算法工程师、网络管理员，等等。事实胜于恐辩，尽管机器可能造成一定程度的短暂的社会错位，使一些人失去工作，但不会造成人类的大规模失业，相反，机器能够创造出更多、更好、适合人类的工作，推动社会进步。
　　其实，这个问题在100多年前就已被研究清楚，这就是著名的杰文斯悖论（Jevonsparadox）。威廉姆斯坦利杰文斯（WilliamStanleyJevons）是19世纪英国的数学家、哲学家和经济学家，现代经济学中的边际效用理论的主要奠基人。在英国工业革命时期，工业大量消耗煤资源并产生了严重的污染，引发了利用技术提高燃煤效率的讨论，但杰文斯的研究表明：烧煤效率越高，耗煤量将会越大。这就是杰文斯悖论：技术进步可以提高自然资源的利用效率，但结果是增加而不是减少人们对这种资源的需求，因为效率的提高会导致生产规模的扩大，这会进一步刺激需要。
　　计算机的机器取代人的例子说明广义的杰文斯悖论也成立：技术进步可以提高人力资源的利用效率，但结果是增加而不是减少社会对人力资源的需求，因为效率的提高将导致生产规模的扩大。计算机的确完全消灭了名为computer的职业，使其变成了一种真正的机器，但同时也扩大了社会对计算机生产、操作等相关人员的需求。还有很多这方面的例子，比如全球定位系统取代了许多测量工作岗位，但却产生了更多基于位置的服务（locationbasedservices，LBS）的相关工作以及导航算法工程师等岗位；机器学习取代了很多统计员，但却增加了更多不同的数据工程师工种。可以预见的是，随着智能技术的发展，这类例子将会越来越多。
　　我们相信，表面上以取代人力为目标的智能技术，将产生更多更适合人类的新的工作岗位，例如学习工程师、决策工程师、法务工程师，等等。智能技术可能会将今日之码农解放出来，使其变成明日之智农，成为人机结合，知行合一，虚实一体的合一体智慧员工。如此一来，维纳所说的：人有人的用途，机有机的用处将会实现。
　　未来智能的方向与体系
　　40多年前，侯世达在GEB之末提出了关于智能的十大问题和猜想，吸引了年轻的米歇尔转行随其学习和研究人工智能。现在，米歇尔也在其著作的结语中也提出了当下人工智能领域备受关注的六个问题及其答案或推测，这本质上也是对未来智能技术发展的探讨与期望。我个人更是坚信人工智能必须从长期占据主导地位的逻辑智能（AI1。0）和近20年来作为主力的计算智能（AI2。0），向人机混合、虚实交互的平行智能（AI3。0）迈进。
　　未来的智能科技，必须将人以新的方式置于核心地位，切实落实人有人用，机有机用的根本原则。社会物理信息系统（cyberphysicalsocialsystems，CPSS）将成为智能系统的基础设施，进而保证数据之力、计算之力、算法之力、网络之力和区块链之力能够五力合一，使智能科技能上真〔TRUEtrust（可信）reliable（可靠）useful（有用）effective（有效）〕之道〔DAOdistributeddecentralized（去中心化的）automatedautonomous（自动的）organizedordered（有序的）decentralizedautonomousorganizations（分权自治组织）〕，实现系统学习和系统智能，迈向智能组织和智慧社会。
　　政治哲学家和经济学者弗里德里希哈耶克（FriedrichHayek）曾说：科学走过了头，自由将无容身之地。同理，智能越过了界，人性将无处安身。如何保证人工智能不越界？根据广义哥德尔定理，我们不是不相信智能技术，我们只是不相信智能技术背后的人类。因此，人工智能的合法合规，必须依靠人类本身的文明和法制保证，智能科技只能起辅助作用。人类社会发展的历史告诉我们，随着技术的发展，我们需要越来越多的法务工作者。将来，或许罪犯会非常少，但智警或法务工程师会成为智慧社会的重要从业人员，远多于普通的警察和法官。这是随智能产业发展而来的智慧社会的可能形态，也是我们研发新一代人工智能应该考虑的问题。