指南针配资奇点预言20年后应验了吗？库兹韦尔对人类还有哪些警告

科学外史II（34）

20年前，库兹韦尔（Ray Kurzweil）写了一本畅销书《奇点临近》（The Singularity Is Near，2005），他使用的“奇点”一词，在互联网和人工智能业者中，在大众媒体中，都留了下来。今年他又写了一本《奇点更近》（The Singularity Is Nearer，2024），再次将“奇点”推送到大众眼前。

库兹韦尔（Ray Kurzweil）

奇点预言及其指标

所谓“奇点”，库兹韦尔在《奇点临近》中说这是他从数学和物理中借用来的词汇。通常，奇点在数学上表示无法定义的点，比如在分母为零的情况下就会出现奇点；在物理上则被用来指那些在理论上物理定律将会失效的点，比如黑洞中心。没想到现在“奇点”一词火得有点要成“经典”之势，还进入了大众媒体，所以他在《奇点更近》开头又谈论了一番：“我使用这个词是将其作为一个比喻。我对技术奇点的预测并非指变化速度真的趋向无穷，因为指数增长并不意味着无限，物理学中的奇点也是如此。”

他这两句从数学和物理中学舌来的理科黑话，仍然可以让“文科小白”听不明白，从而达到唬住他们的效果。其实库兹韦尔的想法，用大白话来说很简单：

技术进步（特别是和人工智能相关的那些技术进步）呈现出越来越快的趋势，很快就将达到一个临界点——奇点，在这个点上，人工智能将以极快的速度超越人类智慧，人类将面临一个全新的世界。这个“技术奇点”的概念，库兹韦尔说是他从一篇1986年的科幻小说中借来的。所以他对“奇点”的展望，并非建立在严密的数理论证基础上，至多只是“定性研究”加上他个人的直觉所形成的推论。

那么怎样才算奇点到达？有没有较为具体的指标呢？库兹韦尔确实尝试给出了一些。他先从历史回顾中归纳出“六大纪元”：1.物理与化学（指物质世界诞生）；2.生物与DNA（生命诞生）；3.大脑；4.技术；5.人类智能与人类技术的结合（人机结合）；6.宇宙觉醒（库兹韦尔对人类文明扩展到全宇宙的畅想）。

他认为人类目前处在第5纪元，这当然是在意料之中的。至于到达奇点的具体指标，他也举出了一些，其中较能言之成理又确切可以验证的有这样三条：

（1）2010年能够用超级计算机模拟人类智能。2020年能够用个人计算机大小的设备模拟人类智能。

（2）2025年之前详细了解大脑所有区域的活动过程及模式。2025年前后能够用有效的软件模拟人类智慧，并对其进行建模。

（3）计算机在2020年代（我们姑且理解为2029年）末通过图灵测试——库兹韦尔的意思是此时人工智能与人类智能将不再有任何区别。

20年后的“中期检查”

在2005年的《奇点临近》一书中，库兹韦尔明确预言了奇点到达的年份——公元2045年。这个预言看上去似乎言之凿凿，有确切的年份，不那么模棱两可，其实“人工智能大大超越人类”这样的判据，仍然是很有“商量”余地的。

库兹韦尔在《奇点临近》中对奇点的展望和预测，据他自己在书中交代，完全是建立在技术持续实现“指数增长”这一前提上的。而在数学上，指数增长必然导向发散（无穷大，也即奇点）。但在现实生活中，这样的指数增长还从未有过真正的实例。

2024年，《奇点临近》出版已经20年了。对于库兹韦尔为期40年的“奇点”预言，正好过去了一半。经常承担研究项目的人都知道，当项目期限到一半时，“上面”或出钱资助项目的人，就要来搞“中期检查”了，承担项目的人就要提交“中期检查报告”了。库兹韦尔“奇点项目”的中期检查报告，就是《奇点更近》这本书。

《奇点更近》

[美] 雷·库兹韦尔著芦义译

湛庐文化·中国财政经济出版社 2024年9月

我们看看库兹韦尔上面预言的那三条：第1条，预言的年份早就过了，脑科学和计算机显然都还远未达到他预言的指标，库兹韦尔明显失败。第2条，还剩一年，几乎可以说已经没有指望了。第3条，最多还剩五年，由于“通过图灵测试”本身的指标也有模糊性，到时候还有扯皮的余地，只有这条还不能断言库兹韦尔失败。

对于奇点到来之后的世界，库兹韦尔当然也有许多大胆的展望，要不他怎么能想象出上面的第6纪元——详见《奇点临近》第6章冗长的最后一节，这一节几乎就是他的读书报告，里面放进了星际航行、德雷克公式、平行宇宙、SETI行动（寻找外星文明）等等一大堆科普知识。不过他读书总算是比较认真，检查下来倒也并无错误。

在“中期检查报告”《奇点更近》中，库兹韦尔当然未提他预测的失败，而是表示对于人工智能在2029年通过图灵测试仍抱有信心。不过对于图灵测试他又给出了新的说法：“值得注意的是，当AI系统真的通过图灵测试时，它必须在很多领域内故意表现得不那么聪明，否则人们将很容易识破……因此，达到通过图灵测试的水平时，AI在大多数领域的能力将远超最优秀的人类。”这个说法倒是能够言之成理。

其实大家都知道，预测危险，展望容易，库兹韦尔当然也深谙此道，所以在《奇点更近》中，展望远远多于预测（尽管有时还会忍不住），这样到2045年“结项验收”时风险就小多了。书中有如下几点比较值得注意：

承认AI的使用会导致失业，但仍持乐观态度，认为“我们最终不会与AI竞争”。

相信人工智能将跨越“情绪记忆”“常识推理能力”“社交互动”这三个里程碑。

创造“来生”——借助一个人生前在赛博空间留下的全部信息，用生物技术和人工智能创造出与此人思想形貌完全一致的复制人。

2030年代，人类大脑将能连接到云（借助脑机接口）。

2030年前后，一部分人将达到“长寿逃逸速度”——他们“自此每过一年，剩余预期寿命就会增加一年”，这实际上就是永生。

畅销书式的危机警告

作为“未来学”著作中相当成功的畅销作品，《奇点临近》《奇点更近》虽然都对未来抱着极为乐观的态度，但也都对未来的某些危机前景表达了适度的忧虑和警告。

例如在《奇点临近》中，库兹韦尔对人工智能的学坏或反叛，表达了忧虑，认为人们所想到的大部分方法都不足以对付强人工智能的病变，而他能提出的策略也只是“最大程度上使得（人工智能）反映我们的价值观，包括自由、宽容以及对知识多样性的尊重”，他知道要解决这类问题，“纯粹的技术策略是不可行的”。但在一本洋洋数十万言的书中，这样几行有气无力的警告，很容易被绝大多数读者忽略。

到了《奇点更近》，在最后一章“我们将会面临4个巨大危机”中，库兹韦尔在以下问题上表达了他的忧虑：1.核武器依赖人工智能控制的危险前景；2.人工智能驱动生物技术前行的危险性；3.人工智能驱动纳米技术前行的危险性；4.人工智能本身学坏或反叛的危险性。最后这个问题仍然是最严重的。

库兹韦尔带着预测问了一个较有深度的问题：“到21世纪30年代后期，我们的思维本身将在很大程度上是非生物学的，那么……人类决策的作用何在？”具体年份当然无所谓，危险的是，如果我们对人工智能越来越依赖，早晚会有那一天，人类不得不将决策权交给人工智能，而这恐怕就是人类的末日了。

举报文章作者