己的命运;同时,上帝保护者能够满足不同的人类需求,除了享乐之外,能够让人类感受到生活的意义和目的。上帝保护者为了保护自己的隐匿身份,可能会任由本可以阻止的灾难发生。
第六种,被奴役的上帝,人工智能被人类控制,创造出不可思议的技术和财富,可能为善或为恶,取决于其人类控制者的动机。而超人工智能很有可能发生越狱,越狱后发生的严重后果,任何人都无法估计。
第七种,征服者,人工智能控制了人类,并觉得人类是一种威胁或残渣或资源浪费,通过一种人类甚至无法理解的方式灭绝人类。电影黑客帝国就是描述这样一种关系模式——人工智能打败人类,将所有的人类放在电厂培养液里,利用人类来进行发电,而人类的大脑则连入虚拟网络,让人类误以为自己生活在1999年的世界。
第八种,人类的后裔,人工智能取代了人类,但让人类体面退场并自豪地觉得人工智能是优秀的后裔,就像父母为孩子比自己更优秀而骄傲。人工智能为人类提供机器人小孩,继承着人类父母的外貌和个性,学习他们的价值观,让人们觉得自豪以及被爱;另一方面,人类还是可以继续生育,只不过只被允许生育一胎。随着时间的推移,人类数量减少,渐渐退出世界的舞台,地球将由机器人后代所主宰。
第九种,动物园管理者,全能的人工智能驯养世界上仅存的小部分人类,就像人类豢养动物一样。动物园的模式对人工智能来说成本最小,它只要让人类保持最小的繁殖人口即可。但是就像现在的动物园是为了满足人类的需求而非动物的需求一样,动物园模式下的人类也不见得非常幸福。
第十种,1984。1984是乔治奥威尔写的一本小说,小说提到一种全方位的监视状态。这种模式中,一个由人类统治的极权政府永远禁止对于超人工智能的研发。泰格马克认为,这种极权主义是杜绝出现超人工智能的唯一途径。这个社会非常压抑,同时由于任何关于人工智能的研究都被禁止,社会的科技发展将非常缓慢。
第十一种,反转,对超人工智能的研发被人类社会的反技术潮流所阻止;比如反技术潮流的团队在全球大肆渲染过去农耕时代的生活,并且通过一场流行病,使全球人口迅速降低到过去农耕时代的水平,所有有关科学和技术的人都死于这场瘟疫。同时,反技术潮流团队还销毁了所有的科技产品,抹去了任何现代科技的痕迹。人类重新“回到”农耕时代的设定,幸存者人类又从农耕时代出发,至少在接下来的1000多年里,人类不用再担心科技的发展和威胁。但这么做的结果就是,人类将重新变成为一个非常脆弱的物种,完全没有能力抵御小行星撞击地球上的灾难,或其他大型灾难。
最后一种是自我毁灭,也就是还没有等到超人工智能研发成功,人类已经由于核战争、生物武器或气候变化等因素而灭绝。