《如何思考会思考的机器》约翰·布罗克曼

小树招大风

由美国著名文化推动者、出版人及“第三种文化”领军人约翰·布罗克曼编著，于2017年由浙江人民出版社出版.以下是关于这本书的详细介绍： 内容构成 - 编者约翰·布罗克曼召集了约190位世界顶尖的科学家和思想家，共同探讨“如何思考会思考的机器”这一问题，并将他们的答案和论述集结成书，为读者呈现了一场跨学科的思想盛宴.- 全书共包含190篇短文，每篇短文都是一位专家从自身专业角度出发，对会思考的机器的思考与探讨，内容涵盖了计算机科学、神经科学、心理学、哲学、物理学等多个领域. 核心观点 - 对机器思考能力的探讨：书中不同专家对机器是否能真正像人类一样思考持有不同观点。如丹尼尔·丹尼特对奇点理论提出质疑，默里·沙纳汉则深入探讨人类级别人工智能的意识问题.- 机器思考对人类社会的影响：专家们普遍认为，机器思考能力的发展将对人类社会产生深远影响。如帕梅拉·麦考达克将其视为划时代的人类事件，而凯文·凯利则把智能机器比作人工外星人，强调其将给人类带来巨大挑战. 《如何思考会思考的机器》中关于人工智能的发展趋势可总结如下：- 从专用到通用：早期人工智能多为专用模型，如今预训练大模型及智能代理的出现，使人工智能向通用化转变，如GPT-4V等大模型可处理多种自然语言任务及图像理解等不同任务.- 能力与价值对齐：人工智能将从单纯的能力提升，转向注重与人类的价值对齐，以更好地服务人类社会，避免潜在风险.- 预训练与强化学习结合：预训练使人工智能获得基础能力，强化学习则用于价值对齐和性能优化，二者结合推动人工智能发展，使其能够更好地适应复杂环境和任务.- 多模态融合：视觉和多模态预训练不断发展，让人工智能能够像人类一样通过多种感官感知世界，如CLIP打通语言和视觉模态，LLaVa等模型融合多模态数据，扩展了人工智能的感知和理解范围.- 引发社会变革：随着人工智能的发展，其对人类社会的影响将日益加深，如在医疗、教育、交通等领域带来变革，同时也引发了就业结构变化、伦理道德等问题，需要人类认真思考和应对. 约翰·布罗克曼 Edge平台 马斯克认为 “会思考的机器” 是人工智能发展到一定阶段的产物，它既有着巨大的潜力和机遇，也带来了严重的威胁和挑战，以下是具体介绍：威胁与挑战人类文明面临风险：马斯克担心人工智能的快速发展会使其在智力和进化速度上超过人类，从而可能导致人类文明的终结。他认为这一信息革命阶段，如果不加以控制，会让人类面临生存威胁，因为机器可能会脱离人类的控制，自行做出对人类不利的决策1.伦理道德困境：当机器具备思考能力后，如何界定它们的权利和责任是一个复杂的伦理问题。例如，当机器做出决策导致伤害时，责任该如何划分，以及如何确保机器的行为符合人类的道德和伦理标准，这些都是需要思考和解决的问题。机遇与应对人机融合的未来：马斯克致力于脑机接口技术的研究和发展，希望通过在人类智能和数字智能之间建立更紧密的共生关系，实现人机融合。他认为这不仅可以修复残障人士丧失的头脑功能，还能赋予人类超能力，让人类能够更好地应对未来的挑战1.降低 AI 风险：脑机接口技术的发展或许是降低 AI 对人类文明威胁的一种方式。通过脑机接口，人类可以与机器更加紧密地结合，从而更好地理解和控制机器的思考过程，引导人工智能的发展方向，使其与人类的价值观和利益相契合，减少潜在的风险1.推动科技进步：会思考的机器无疑将推动科技的飞速发展，帮助人类解决许多复杂的问题，如气候变化、疾病治疗等。马斯克也认识到了人工智能在解决这些全球性挑战中的巨大潜力，因此他强调要在确保安全的前提下，充分发挥人工智能的优势，推动人类社会的进步. 那些激发人们去思考意想不到之事的问题。俱乐部座右铭的灵感就源于拜尔斯，他曾经说过：“要抵达世界知识的边界，就要寻找最复杂、最聪明的头脑，把他们关在同一个房间里，让他们互相讨论各自不解的问题。” 新技术就等于新观念。现实俱乐部。我在1991年发表的《第三种文化的兴起》（The Emerging Third Culture）一文和1995年出版的《第三种文化：洞察世界的新途径》（The Third Culture：Beyond the Scientifc Revolution）一书中，都写到了“第三种文化”，而上述那些人，他们正是第三种文化的代表。这些拥有新观念的知识分子、科学家，还有那些著书立说的人，正是他们推动了我们的时代。Edge已经形成了一个选择合作者的简单标准。我们寻找的是这样一些人：他们能用自己的创造性工作，来扩展关于“我们是谁、我们是什么”的看法。其中，一些人是畅销书作家，或在大众文化方面名满天下，而大多数人不是。我们鼓励探索文化前沿，鼓励研究那些还没有被普遍揭示的真理。我们对“聪明地思考”颇有兴趣，但对“标准化智慧”意兴阑珊。在传播理论中，信息并非被定义为“数据”或“输入”，而是“产生差异的差异”（a difference that makes a difference）。这才是我们期望中合作者要达到的水平。 年度问题：- 2015年：你怎样看待会思考的机器？- 2016年：你认为最近最有趣的科学新闻是什么？它为何重要？- 2017年：哪个科学术语或概念应该更广为人知？- 2018年：最后的问题是什么？ 阿莱克斯·彭特兰 Alex PentlandMIT人类动力学实验室主任；全球大数据权威；可穿戴设备之父；著有《智慧社会》 如果无法打败它们，就同它们联手弗兰克·蒂普勒（Frank Tipler）杜兰大学数学物理学教授；合著有《人择宇宙学原理》（The Anthropic Cosmological Principle），著有《永恒物理学》（The Physics of Immortality） 人工智能拥有的将是整个宇宙，它们会离开地球这个小村庄进行远征，并且不会再回来——正如人类虽起源于东非大裂谷，而如今那里已经是一片沙漠，几乎所有人都已经离开了那里。谁还会回去呢？任何想要加入人工智能远征军的人类，都可以通过人类智能载体来实现。这是一项随着人工智能一起发展的技术。这些人类智能载体能够像人工智能一样快速思考，甚至能与它们竞争。如果你无法打败它们，那就加入它们。最终，所有人都会加入它们，所有仍然存活的人类，只要不想死亡，都会别无选择地加入它们，成为人类智能载体。而在整个生物圈中，所有我们希望保留下来的生命，也都将加入其中。最终，人工智能将拯救我们。 WELCOME TO YOUR TRANSHUMAN SELF 欢迎超人一般的自己马塞洛·格莱泽（Marcelo Gleiser）达特茅斯学院物理学、天文学教授；著有《知识之岛》（The Island of Knowledge）想象这样的场景：你上班就要迟到了，于是仓促走出家门。在半路堵车或在坐地铁时你才意识到，自己忘了带手机，但回去取的话肯定会迟到。这时你环顾四周，发现每个人都在用手机聊天、上网，你感受到了一种从未有过的失落感，一种与外界失联的感觉。没了手机，你甚至不再是自己了。 我们可以通过数字技术来增强我们的脑力达到超级智能，并通过增强人类智能来拓展人类存在的意义。我们仍然拥有跳动的心脏，我们的血液依然沿着血管流动，与此同时，电子沿着体内的数字电路穿梭。人工智能的未来是将我们的能力延伸到新的领域，即用科学技术将人类发展成为更聪明，最好是更贤明的物种。 发现他们的真正需求是什么？ 后来我发现还可以再进一步，其实他们也不知道自己喜欢什么！需要什么！谁知道？机器！ 从众，流行什么？很多人认可的就是好东西。很多人关注的就是热点。王一博就是流量明星，大v做什么都能赚到钱。地铁就有很多人，我们要做的就是参与机器的数据统计，用数据得知人的代替，机器的想法。然后去服务。 每一步都让我们先感受到明显的好处，以至于我们无法拒绝。◎现在的计算机已经非常强大可靠了，今天你如果还用笔和纸去做大量的算术计算的话，那就显得太愚蠢了，因为用计算器要快得多，而且几乎是完全精确的（不要忘了舍入误差）。◎既然列车时刻表已经可以立即出现在智能手机上，我们又何必再去记它们呢？◎不要再看地图了，导航到你的全球定位系统（GPS）吧，它虽然没有意识，也不能进行有意义的思考，它却能比你更好地跟踪你的位置或引导你到想去的地方。更进一步看，现在的医生也在逐步依赖比人类诊断更加可靠的诊断系统。当遇到生死攸关的治疗时，你希望医生否决掉机器的诊断结果吗？IBM的超级计算机沃森是这方面应用最具说服力的例子，至于沃森是不是一个合格的思考者，那是另外一个问题。如果沃森能够利用已有数据，作出比人类专家更精确的诊断，那么我们就会更信任、依赖它的结果，而那些藐视它的医生则有可能惹上医疗官司。对于这种增强版的智能假体而言，没有哪个人类领域是它们所不能涉足的。而无论在哪个领域，一旦它证明了自己，人类就会一如既往地接受它、相信它。手工制作也可以逐渐占据手工陶器和手工针织毛衣等利基市场[插图]。 THE NEXT PHASE OF HUMAN EVOLUTION 人类进化的新阶段尼娜·雅布隆斯基（Nina Jablonski）生物人类学家，古生物学家；著有《生命的色彩》（Living Color） 人类意识中的哪些属性有可能出现在人工智能身上？当然，每一个列举出来的以及其他未提及的属性都值得认真对待。我只挑出其中的两种：对世界的感知力以及感受痛苦的能力。我认为，对世界的感知力是人类级别的智能所必备的属性。显然，如果不具备语言能力，就称不上是人类水平的智能。而人类语言的主要功能就是描述周围的世界。从这个角度看，智能必然具备哲学家所说的意向性。更进一步看，语言是一种社会现象，在人群中，语言的主要功能就是描述他们在过去、现在、未来已经感知到的，以及可能感知到的事物，比如一件工具或一块木头等。简单地说，语言产生的前提是对世界的感知。而对于具有实体的动物和机器人而言，这种感知力可以从它们与周围环境的互动中表现出来，比如避开障碍物、捡起物品等。我们也可以把范围扩大到那些分散的、通过特定的传感器连接起来的非实体的人工智能。如果想令人信服地将感知力作为意识的某一属性，还得结合其他属性，比如意向性和一定程度的认知整合能力。因此，即便是人工智能，这类三合一的属性也是相互交织的。但暂且把这个问题放一边，重新来看感受痛苦和欢愉的能力。与感知力不同，人工智能的意识中需要具备这类属性的原因不太明显，虽然对人类来讲，这种属性是和意识紧密相连的。我们可以想象这样一部机器，它可以完成一系列需要人类智力才能完成的任务，整个过程不带一丝一毫的情感。在这种情况下，这类机器就很难称得上具有意识。正如英国哲学家杰里米·边沁（Jeremy Bentham）所言：当我们考虑如何看待其他动物的时候，不是看它能否推理或者说话，而是看它们能否受苦。我并非要强调，纯粹的机器就一定不具备感受痛苦和欢愉的能力，也不是说生物体在这方面有什么特殊之处。相反，我想指出的是：这种感受痛苦和欢愉的能力，是可以从人类意识的诸多精神属性中分离出来的。让我们进一步来验证这种分离的合理性。我前面提出，对世界的感知力总是和意向性结合在一起，动物对世界的感知力——趋利避害的能力，基于它自身的需求。当它看到危险的捕食者时，就会避开；当它看到自己的猎物时，就会靠近。在这一系列目标和需求的背景下，动物的行为都是有意义的，而当它们的目标没有实现、需求未被满足时，它们会有挫败感。这就是遭受痛苦的原理依据。人类级别的人工智能又会如何？难道它们就不具备一套复杂的目标吗？它们实现目标的努力就不会受挫吗？虽然人工智能的构造可以让它免受人类生理上的痛苦，但是当它处于恶劣条件下时，我们能否说人工智能也在受苦呢？此时，想象力和直觉力已经碰到了天花板。我认为，在这种东西真正出现以前，我们无法找到答案。只有当更成熟的人工智能成为我们生活的一部分时，我们的语言游戏才能适用于描述这些“外星人”。当然，那个时候再来考虑它们是否应该出现在这个世界上，就为时已晚了。无论好坏，它们都已经出现了。 凯文凯利人工外星人的出现将迫使人类重新评估自己的职责、信仰、目标，以及人类自己的身份。人类存在的意义是什么？我相信我们首先应该给出这样的回答：人类存在的意义就是创造出生物进化无法创造出的智能。我们的任务是制造出以不同方式思考的机器，即创造外星智能。请叫他们“人工外星人。” 凯文·凯利：科技是如何演化的？ | 《如何思考会思考的机器》2005 什么是科技真正的意义？我们真的认识科技吗？科技到底想要什么？ 世界知名未来学家凯文凯利探究了“科技到底想要什么”，并深刻地指出，科技与生命进化一样，经历了从简单到复杂并随处可见的史诗般的历程。事实上，科技从未消逝，科技不死！ 我怕科技主宰和控制我。我骑车上班。但我们需要思考科技意味着什么 按照人们事先给定的算法，机器能符合逻辑地一步步执行一系列操作。在这类事务上，机器比任何人都做得更快也更精准。 72　快，准，傻海伦·费雪（Helen Fisher）罗格斯大学人类学家；著有《谁会爱上你，你会爱上谁》（Why Him?Why Her?How to Find and Keep Lasting Love ）通常来说，了解事物的第一步是为它命名。那么，何谓“思考”？在我看来，思考有许多基本的要素。首先，我将跟随神经科学家安东尼奥·达马西奥（Antonio Damasio）的逻辑。在他看来，意识存在着两种广泛而又基本的形态：核心意识（core consciousness）和扩展意识（extended consciousness）。许多动物都拥有核心意识，它们不仅有感觉，还能意识到自己的感觉。它们知道自己感觉到了寒冷、饥饿或是悲伤，但它们都只能活在此时此地。扩展意识则是一种能够对过去和未来进行感知的意识。人类对个体差异有着清楚的认知，也能区分昨天和明天，还能清楚地知道自我成长的各个阶段。高等哺乳动物会有一些基于扩展意识的行为表现。例如，人类的近亲大猩猩有着清楚的自我意识，一只名叫可可（Koko）的大猩猩能用一种美国版本的手语称自己为“Koko”。此外，大多数黑猩猩对于不久的未来都有清晰的感觉。例如，当一群黑猩猩刚被带到位于荷兰阿纳姆动物园（Arnhem Zoo）的户外围场时，它们就迅速地对新环境进行了地毯式的检查——一寸不漏，然后一直等到管理员离开后，它们就靠墙搭起一根长杆子，沿着杆子爬出去，获得了自由；其间，甚至有黑猩猩还帮助了其他不善于爬杆的同伴爬出了高墙。尽管如此，显而易见的似乎是，正如达马西奥在他的著作《感受发生的一切》（The Feeling ofWhat Happens ）中指出的那样，类似于这样的扩展意识在人类那里才达到了极致。那么，机器是否也能根据回忆自己的经历，运用经验来认识并指导自身走向未来？答案也许是肯定的。然而，扩展意识还不是人类意识的全部，人类学家使用术语“象征性思维”（symbolic thinking）来描述人类能够任意使用抽象概念来表示现实世界的能力。一个经典的例子是水和“圣水”的区别：对于黑猩猩来说，教堂里盛在大理石盆中的水只是水而已；而对于一位天主教徒来说，这水可不是一般的水，而是“圣水”。类似地，黑色对于所有的大猩猩来说只是黑色，然而对于一个人来说，黑色也许意味着死亡或是一种时尚的流行色。机器有可能理解十字架、民主的意义吗？我对此表示怀疑。但是，如果机器能理解此类事物，它们有能力对之进行讨论吗？象征性思维最好的例子，莫过于我们用尖叫声和嘶嘶声、号叫声和哀鸣声创造了人类语言。就拿词语dog来说，说英语的人用它来指代那些散发着特殊气味、长着皮毛、摇着尾巴的动物——狗。更为神奇的是，人类把dog一词分成三个无意义的音素d、o、g，然后重新组合三者的书写顺序，再赋予适当的发音后，就创造出了意义完全不同的新词语，例如g-o-d（神）。那么，机器能否将它们的咔嗒声和嘶嘶声分解成原始的声音或因素，然后将这些声音进行不同的排列组合来创造新的词语，再为这些词语赋予任意的意义，最后用这些词语来描述新的抽象现象？我对此表示怀疑。那么，关于情绪的问题呢？我们的情绪，会影响我们的思考。举例来说，机器人或许能够辨识并判断公平性问题，但它们能感受到不公吗？对此，我依旧表示怀疑。我要歌颂人类的大脑。它有超过1 000亿个神经细胞，每个神经细胞又与它周围近万个神经细胞相连接。这个只有约1.4千克重的块状物是地球生命最了不起的成就。大多数人类学家都默认现代人的大脑早在20万年前就出现了，而对于我们的祖先，最早是在4万年前就开始有艺术创作和埋葬死者的习俗，因此创造出了来世的概念。如今，社会上正常的成年人都可以轻易将词语分解，用无数种排列组合方法创造出新的词汇，并迅速地接受这些词语的意义，然后理解词语抽象的概念，例如friendship（友谊）、sin（罪恶）、purity（纯洁）和wisdom（智慧）等。在一次晚餐上，一个机器人花了5个小时才叠好一块毛巾。机器人制造领域的著名科学家威廉·凯利（William M.Kelly）就此发表了评论：“人类迟缓、懒散，却又是伟大的思想家；机器快速、精准，却十分愚蠢。”我对此深表赞同。