<p class="ql-block"><br></p><p class="ql-block">在朋友新布置的家里，酒足饭饱。女人们即将收拾残局，男人们抓紧时间，凑到灶台前打开抽油烟机，点火抽烟。</p><p class="ql-block"><br></p><p class="ql-block">剑国继续酒桌上的话题，说对于人工智能更深层的忧虑，应该是人工智能会不会失控？如果失控会怎么样？老霍金就说过，人工智能可以比人类的智慧发展得更快，那么，当机器发展到能自己演化的重要阶段时，它们的目标与人类愿望之间，相符的程度就很难预料了。现在来看，这已经是一个越来越现实的问题。</p><p class="ql-block"><br></p> <p class="ql-block"><br></p><p class="ql-block">女人们陆续回室内来了。剑国抓紧说还有啊，即使不发生常规性风险、即使人类设计的制度安排，足以解决其在经济和社会层面带来的副作用、即使失控的问题在技术上能得到很好的解决...但如果有一种远远超过我们人类的智慧，整天笼罩在我们的周围，如果我们每日每时的生活，是由一种远超人类的智慧所设定和支配，那会是什么情形？什么样的结果？啊，人们的感觉又会是什么样的？</p><p class="ql-block"><br></p> <p class="ql-block"><br></p><p class="ql-block">剑国把烟交到左手，然后用空下来的右手，指尖轻柔地拂过毛发渐稀的头顶，脸上无意识在做着奉迎女人们的准备，大声说就是嘛，这才是人工智能可能给我们带来的最大问题——从根本上来说，这涉及的是人类自身生命的意义与存在的问题，在这样的情况下，人为什么还要活着，而且是很卑微地活着？</p><p class="ql-block"><br></p> <p class="ql-block"><br></p><p class="ql-block">我联想到动物园里的管理良好的猴子，顺理成章，有条不紊。它们终于过上了原本不敢想象的好生活：整洁、丰裕、优渥，会不会想...这生活并不是自己创造出来的？</p><p class="ql-block"><br></p><p class="ql-block">(改写自孙立平公众号里面的文章，标题太长，概括的又是上面的内容，想不起来就不记了)</p><p class="ql-block"><br></p>