第43章 所谓奇点
《如何独立思考》章节:第43章 所谓奇点,去读读网友提供全文无弹窗免费在线阅读。!
鲍勃·诺韦拉如是说
显然，只要智慧生物不会在科技发展到一定程度后自我毁灭，外星智慧很可能会领先我们数百万年，甚至数十亿年。放眼整个宇宙，我们人类就是个愣头青。
——赛斯·肖斯塔克
我是个对科学技术相当痴迷的人。在我看来，科技是人类文化和认知演进最了不起的副产品。我对许多领域的科技发展都持乐观态度。未来科技的种种可能性不禁令人浮想联翩，也让我充满了期待。技术乐观主义是一把双刃剑，它可以让我们很容易不切实际地期待重大进展，或者忽略发明这些新工具和设备过程中的复杂性及所耗时间。今天还属于科幻的场景，是否明天就能梦想成真？我不得不总是压抑住自己的兴奋，以便对此做出冷静客观的评价。
在预测未来会出现哪些颠覆性的科技时，许多人都会犯同样的错误。究竟是什么错误呢？
人们总是对即将到来的未来充满不切实际的期待，但是对更长远的未来却缺乏想象力，这几乎是一条颠扑不破的真理。例如，20年前我曾信心十足地认为，时至今日，人们应该能够背着喷气背包去上班，能开着空中飞车到处走。时光如果能倒退好几十年，几乎没有人能预见到互联网的发明，更别提它会改变整个世界。
预言家还喜欢低估新技术及时间所带来的翻天覆地的变化。尽管20世纪初的未来学家已经预言了空中飞车，但是驾驶它们的都是些老派的人，他们脚上戴着鞋罩，手中拎着拐杖，还撑着带羽毛的阳伞。如今，因为车库和停车场总是有许多闲置车辆，所以人人可以共享无人驾驶汽车也许会在不久的将来成为现实。这听上去似乎合情合理，但这一想法在未来可能会被认为和驾驶喷气背包时还戴着单片眼镜一样可笑且过时。也许一旦人们在自动驾驶汽车上享受各种自由，例如，想睡就睡，想聊天就聊天，想用Netflix（网飞）看多少电影都可以，甚至做爱都行，到那时他们也许会赖在车上不愿下车。他们会想拥有自己的爱车，并根据自己的品位和爱好把它打扮一番。这可能会导致车造得巨大无比，远远超乎我们现在的想象。
比如，在2002年上映的电影《少数派报告》中（影片对未来的预测相当靠谱），未来人们都使用微型手机。从20世纪90年代以来的技术发展趋势来看，不难做出这样的预测。但他们完全没有预料到的是，如今智能手机反而越造越大，因为人们想尽可能地让手机屏幕大一些。
对预言家来说，危害最大的做法要算是“随心预报”（wishcasting）事实。这个词是气象学家发明的，因为他们注意到，气象预报员在预测天气情况时，总是说7月4日会天气晴朗，而圣诞节当天会大雪纷飞，而这么高的概率几乎是不现实的。人们在做出预测时，总是自觉或不自觉地受到自身倾向性的影响。人们一直希望（和期盼）能出现像《摩登家族》（The Jetsons）中罗茜那样高度拟人化的机器人管家，无论男女皆可。毫无疑问，这一设想让许多人痴迷不已。正因为如此，有许多人认为机器人管家必将出现，并做出大胆预测。不过，就算这个铁家伙穿上了漂亮的礼服，它也未必会帮你打扫房间。如今，真正帮我们清洁房屋的是“伦巴”（Roomba）这样长得像圆盘的机器人。将来烧菜做饭估计也无须自己动手，天花板上会垂下来一双机械手帮你搞定，连腿和身子都不需要。今后连床都会自动铺好（请一定尽快实现！）。总之，我们很难提前对未来做出准确预测。
通常来说，畅想未来的科技发展并非难事。关键是怎么去实现它，更重要的是人们会如何使用它。这个问题很难有统一的答案，也很难说将来会怎么样。一旦用途不当，这会让许多对未来的构想落空。假如在2000年的时候，你预测说我们更喜欢打字聊天，而不是通过视频，你很可能会遭到冷嘲热讽。
请牢牢记住这些教训。接下来，让我们再看看另外一个更有争议，更具颠覆性的预言，这就是所谓技术奇点（technological singularity）。
“奇点”一词在不同领域有不同的解释。数学上它是无法定义的一个点，或者说该点具有异常的性质。引力奇点（gravitational singularity）指的是一个密度无限大，并且能够产生无穷潮汐力的点。机械奇点其实是一套未来的机制构造，并自带不可预测的属性。技术奇点也是如此——它预示着一次毁灭性的变化，其规模将十分惊人，但人们却无法对其做出准确的预言。
不同的人对技术奇点的理解也有些许差异。大多数人认为，技术奇点假设在未来某一时刻，超级人工智能（artificial superintelligence，简称ASI）或增强的人类思维会导致智能“爆炸”，从而在短时间内迅速改变人类的文明进程，而我们之前的预测将完全失去意义。
奇点理论的雏形之一，来自著名数学家约翰·冯·诺依曼于1958年说的一番话。他的朋友斯塔尼斯拉夫·乌拉姆曾这般引述他的思想：
我们有过一次关于科技加速发展以及人类生活方式发生变革的对话：仿佛我们正在接近人类发展史上的某个“本质奇点” ，一旦越过该奇点，我们目前已知的人类活动将不再延续下去。
另一位最早提出奇点概念的科学家是欧文·约翰·古德。他是一位来自英国的数学家和密码学家，曾与计算机科学的传奇人物艾伦·图灵共事。古德是最早提出“智能爆炸”概念的人。他指出：
所谓“超智能”（ultraintelligence）机器，是指该机器所展现的智能水平，已经远远超过地球上最聪明的人类。既然机器设计也是智能的体现，那么一台“超智能”机器设计出来的机器应该比人类的更好。可以想见，未来会出现“智能爆炸”现象，这一点毫无疑问。人类智慧从此会被远远甩在后面。如此说来，第一台“超智能”机器的诞生，也就意味着人类从此不再需要搞任何科技发明——前提是这台机器足够听话，会主动告诉我们怎么才能控制它。
要想达成这一目标，就不能不注意其中一个关键节点：必须实现所谓“强人工智能”。它不一定要比人类聪明，但至少也要和人类旗鼓相当。以此为出发点，我们随后只要加快它的运算能力，就能够使它的智力超越人类。原先人工智能与人类可谓半斤八两，完成一项任务可能要花上整整10年。但如果有了超级人工智能，同样的任务也许一个星期就能搞定。
如果上述任务是提升人工智能自己的思维能力，改变或重组其认知基础，会出现什么情况呢？很明显，和最高不过博士学位的人类相比，可供纯数字化智能选择的自我成长途径要多得多。此前我们讨论过大脑“超频”的问题，那么同样地，如果给人造的“前额叶皮层”添加数百万数字化的神经元呢？既然神经连接组 （connectome）表示几百万亿个神经元互相连接，从而构成人类目前的大脑，那么如果我们把连接数量再加一倍呢？无论你选择哪种方式（其实还不止上述这些），都很可能产生比最聪慧的人类大脑还要高级的智能。当我们开始跨出这一步时，实际上已经点燃了智能爆炸的导火索。
一旦我刚才说的成为现实，这种递归式的自我改善会很快创造出两倍于人类智能的“头脑”，再往后就是10倍。随着超级人工智能变成现实，这会导致意想不到的洞见的出现以及范式转换，于是人类的“预测视野”也会不断缩小。到了2018年，对于不久的将来（比如15年或者20年之内）会出现（或可能出现）什么样的技术进步，我们能够猜个八九不离十。尽管不敢打包票，但我个人相当确信，到那时路面上会有相当一部分是无人驾驶汽车。但是同样的20年之内，我们无论如何也做不到驾车高速飞向月球。
能够不断自我完善的智能机器越强大，我们可预测的范围就越狭窄。在很短的时间内，我们就会感到预测1年后的科技发展变得毫无意义，接着就剩下6个月，再往后……说不定只能预测几个小时之后的事……最终怎么样？不敢想。
假如哪天我们觉得对未来做任何预测都失去了意义，所谓技术奇点就算真正诞生了。
雷·库兹韦尔曾经将奇点形容为“速度飞快而又影响深远的技术更迭，代表着与过往的历史彻底决裂”。我很欣赏他这番话，因为它绝非戏言。如果让比人类大脑聪明千百倍的智能主宰一切，我们还能指望什么成就或发现？要想和过去一样预测未来，我们就得变得和人工智能一样强大才行。
你可能会问——然后又会如何？我们没办法从根本上予以回答，不过用我们可怜的脑瓜所想到的各种可能性，倒是值得探讨一下。显然，超级人工智能对任何生命都会予以尊重和保护。它可以与人类携手，在许多领域改善我们的生活。它可以帮我们治疗疾病，大大延长我们的寿命，帮助我们殖民整个太阳系，甚至只要我们愿意，它可以让我们也拥有超级智能。所有这些超级智能带来的好处，在尼尔·阿舍所著的科幻小说中都成了现实（顺便向读者强烈推荐他的小说）。
与之相对的另一端则不容乐观。如果真有一台机器比人类聪明一百万倍，它“看”我们人类就好比《星际迷航：无限太空》中那架超级飞行器遇见了柯克船长和他的部下。如果运气好，它会完全不把我们这些肮脏的“碳化物”当回事——当然更有可能的是让我们全军覆没。要破除对超级人工智能乌托邦式的幻想，相应的事例数不胜数，在此不一一赘述。
你对技术奇点现在是什么看法？你会不会觉得它完全是胡说八道，如同所谓“怪咖们的狂欢”？之前围绕奇点产生的种种奇谈怪论，是不是越来越受到认同？或者，它根本就是一种非黑即白的极端思维？
我们可以人为（或者通过数字化等非生物方式）制造有感知能力的智能机器吗？有些人并不认同这一前提。我把它称为“令人恶心的生物学沙文主义”。宇宙中可能存在无数类型的智能，而且绝不可能只能通过人脑或者电化学类的方式得以展现。不少思维理论方面的专家相信，大脑的组织及自身交互反应比材料基质更为重要，这是一种功能主义的观点。许多非生物类的基质也能够对所谓的“思维”产生积极影响。
想想看，假如把你大脑内的每个神经元都一个接一个地改成电子数控装置，并能够精确还原神经元的输入和输出功能，会发生什么情况？经过一段时间的磨合，你的大脑就彻底丧失了生物属性。假设该技术本身没有问题，那么在大脑接受改造的过程中，你的意识会不会在某一刻开始减弱，甚至完全消失？你会不会从此成为一具哲学僵尸，举手投足与一般人无异，但却体会不到喜怒哀乐（在此之前我们不仅能感受到丰富的内心世界，而且也认为别人会有同样的感受）？是否还存在某种完全不为人知（或尚未得到线索）的神经科学机制，而基于这些机制只有生物神经元能够产生某些思维认知的附带现象？
感知能力能否复制姑且不论，究竟该不该开展这一研究也是个问题。我们已经意识到，超级人工智能可能会给人类带来生存风险，因此不应该把魔鬼从瓶子里面放出来。过去10年的经验告诉我们，现阶段的人工智能即便应用范围狭窄，也尚未产生自我意识，但是已经能够做出许多非凡的成绩。况且，以它们的能力而言，这点成绩实在不值一提。打造“心智成熟”的机器人和机械设备完全没有必要。让机器的智力接近或超过人类，然后把它们当作奴隶看待，似乎也有违日常伦理。如果将实验室与外界网络隔开，并使用安全隔离网闸技术防止意外逃窜，我们大可放心地研发具有综合自我意识的人工智能。但是，让几千个机器人都拥有自我意识似乎也没必要——它们随时可能变得怒气冲冲，然后成为彻头彻尾的“终结者”。
另外，过去10年间，商界对人工智能取得的各项研发成果和进展始终抱有浓厚的兴趣。在全球范围内，人们正以前所未有的热情投资于人工智能领域，至今也没有衰退的迹象。由于能够将人类极限提升至不可思议的程度，随着时间的推移，超级人工智能必将获得更多人的认可，并会越来越受世人瞩目。在面临全球化激烈竞争的当今社会，确保该技术绝对安全（将其隔绝在无菌实验室内）恐怕只能是一厢情愿的想法，但确实是一个棘手的难题。
也许人工智能实现的可能并不大，同时也会相当困难，因为这意味着我们要超越自身的极限。这仿佛成了该领域的“第二十二条军规”：为了实现人工智能，我们得首先拥有超过人类智慧的智能技术。放眼整个宇宙，可以毫不夸张地说，目前已知的结构功能最为复杂的物质当属人类大脑。更糟的是，为了仿造大脑，人们恐怕首先要对自己的大脑有充分的了解。问题是，我们能做到这一点吗？这难道不会违背基本逻辑吗？还好，这是一种“稻草人”式的逻辑。与其从零开始，凭空设计一个大脑，还不如对现有的大脑进行复制。后者才是完成目标最为合理的方案。
用尽可能无损和高分辨率的方法扫描大脑，并用计算机平台把结果模拟出来，这就是目前颇有市场的所谓“大脑仿真学”（brain emulation）。它有可能制造出类似人脑的数字大脑，而且无须我们对脑部科学有更加深刻的理解。诚然，这里面的原理极其复杂，目前我们也没有这样精密的扫描技术和计算机设备。于是问题变成了：我们能最终掌握上述必要的软硬件技术吗？答案是毋庸置疑的。以我们现有的技术水平来看，扫描和计算能力还有极大的发展空间。
例如，曾经有人提出过“计算素”（computronium）的假说。这是一种基础物质，能够在物理定律允许的范围内，被用来进行最大密度和最高效率的运算。根据物理学家塞思·劳埃德的估算，这种神奇的物质每秒计算量高达5乘以10的50次方。相对于人类研发的拥有最高算力的超级计算机（截至2017年），这一数值足足高了35个数量级！当然，我们可以对此一笑置之。实际上，每秒10的50次方恐怕永远都实现不了。另外，有人认为单一排列形式的计算素，能够满足所有类型的计算需求（比如平行计算和串行计算），这种看法是不明智的。但是，只要能实现最大理论值的哪怕极小一部分，都比我们现有的技术要强得多，用来模拟大脑思维活动也绰绰有余。
所以你看，我骨子里是个技术乐天派。我敢说，只要利用得当，未来人工智能将大有可为。但即便如此，我还是得本着科学怀疑的态度，做好“尽职调查”（史蒂夫总是提醒我别忘了这茬）。那么，围绕“奇点”讲了这么多，有没有可能走错方向呢？
首先，具有自我意识的通用人工智能尚未诞生。目前它还只是一个设想。50年前，人们对此曾有预言，50年后科技就能发展到这个程度。如今50年过去了，科学家依然预测还需要50年。之前的实践证明，它比我们想象的要困难得多，将来也必然如此。我们甚至不知道距离成功还有多远，因为毕竟才初窥门径。就像我刚才所说的，人类也许永远都不必让人工智能拥有自我意识。专注于某个领域的人工智能正遍地开花，硕果累累，这反倒是我们需要坚持下去的。
说到智能，有一点不得不提：它其实要比我们此前所理解的复杂得多。智能分为许多种类，而人工智能在某些方面会比大脑强，但在某些方面也许还不如大脑（目前的人工智能就普遍不如）。如今的人工智能倒是很像阿斯伯格综合征，而我们对改变现状的原因或方法还一无所知。现在的人工智能普遍缺乏真正意义上的创新能力。
此外，我们不知道复杂的自我意识实体是否会受到物理规律或现实条件的限制。当我们试图让我们的人工智能更快、更好、更聪明时，它们可能会出现精神错乱，或者在自我沟通方面受到一些先天因素的限制。当然，机器本身也有计算能力的上限。
正因为如此，面对如此复杂的技术问题，我们其实无法对其未来做出预测，也无法认定现在看似繁荣的技术，将来还会继续无限地发扬光大。也许超级人工智能（往大了说就是“奇点”）就像我们曾设想的下个世纪的空中汽车和喷气式背包，好像离我们有50年的距离，却总是遥遥无期。
不过，我个人并不这么认为，因为我一向对技术发展持乐观态度。同时，作为一名科学怀疑论者，我不得不承认我们尚不知晓答案。未来很不确定，时刻会有惊喜。
有朝一日，我希望能将我的大脑上传到计算机上备份，这样我就能亲自“看清”未来到底是什么样了。
7月4日是美国国庆日。——译者注
《摩登家族》是20世纪60年代起风靡全美的一部科幻主题动画片，一直延续到了80年代。它以2062年为背景，叙述了杰特森一家各种有趣的经历，也出现了一些具有前瞻性的，当时尚未发明的高科技新产品。剧中有个著名的机器人女仆，名为罗茜。——译者注
随着人工智能的发展和演化，按照实力可将几代人工智能大致划分为：弱人工智能（artificial narrow intelligence）、强人工智能（artificial general intelligence）、超级人工智能。——校译者注
“本质奇点”，原意是指数学函数的一个概念，即如果以复变量为变量的函数在点a的洛朗展式中的主要部分为无限多项，则称a为此函数的本质奇点。在该奇点附近，函数会表现出异常的性质。在此作者用来比喻技术革新后的那个突然爆发的时刻。——译者注
连接组是指神经元连接的总和，是遗传和生活经历发生相互作用的结果，是先天与后天的结合点。详细解释请参考清华大学出版社的《连接组：造就独一无二的你》，作者承现峻。——校译者注
《怪咖们的狂欢》（The Rapture of the Nerds）其实是一本科幻小说，书中作者用诙谐的语言，描述了21世纪末的各种科技发明，反映了作者对技术奇点的思考。——译者注
沙文主义是指对所在的国家、团体、组织或行业感到骄傲，反而看不上它的同行或对手，是一种带有强烈偏见的情绪，常常引发民族主义等狭隘的世界观。——译者注
《终结者》是20世纪80年代风靡全球的美国科幻电影。电影讲述了未来人工智能彻底取代了人类而统治整个世界，而具有人类意识的机器人（即“终结者”）在追杀和保护人类领袖的过程中完成了自我救赎。影片对人工智能应该发展到何种程度，以及过度发展后造成的后果进行了一定程度的反思。——译者注
《第二十二条军规》是美国作家约瑟夫·海勒创作的一部充满了黑色幽默的反战小说。小说主人公所在的美军飞行大队有规定：凡是精神不健全者可获准免于参加飞行任务，但必须本人亲自申请。但如果是本人申请，恰好说明他精神完全正常。然而事实上，美军根本就没有这第二十二条军规，主人公无法摆脱这条子虚乌有的军规的束缚，最后只能靠开小差离开部队，开始了独自逃亡。小说出版后，“第二十二条军规”就成了“不断循环的困局”“无法逾越的障碍”等情形的代名词。——译者注
尽职调查多用于商业并购或投资，其目的是通过各类调查和对话，使买方尽可能地掌握所要收购股份或资产的全部情况。——译者注
阿斯伯格综合征，一种发育性障碍，具有与孤独症同样的社会交往障碍，局限的兴趣和重复、刻板的活动方式。该人群拥有正常的智力水平，但缺乏社交技巧，难以融入社会群体。这里作者主要指目前人工智能行为刻板、重复，缺乏创造力。——校译者注
据说目前已有公司提出了这一设想。比如，位于美国硅谷的Netcome（互联网服务提供商）就致力于将人脑的信息、意识和思维储存至一台模拟人脑的计算机上。这样，即使人的肉体已经消失，但是大脑依旧以数据备份的形式“活”着，这就好比一台电脑虽然关机，但信息都还在。故本书作者有此一说。——译者注