科技界億萬富翁們似乎正為「世界末日」做準備，我們應該擔心嗎？ - BBC News 中文 --知识铺

科技界亿万富翁们似乎正为「世界末日」做准备，我们应该担心吗？

• • 

  • Author, 佐伊·克萊曼（Zoe Kleinman）

  • Role, BBC科技編輯

• 2025年10月11日

据说早在2014年，马克·扎克伯格（又译朱克伯格、祖克柏，Mark Zuckerberg）就开始在夏威夷考艾岛（Kauai）修建他名为「古兰尼牧场」（Koolau Ranch）的庞大庄园，占地达1,400英亩。

根据《连线》（Wired）杂志报道，该庄园将设有避难设施，配备独立能源与粮食供应。 不过，参与施工的木匠与电工都被要求签署保密协议。

外围的道路被一道六英尺高的围墙隔绝视线。

去年当有人问他是否在建造「世界末日地堡」时，这位Facebook创办人斩钉截铁地回答「没有」。 他解释说，那个大约5,000平方英尺的地下空间「就像个小避难所，也可以说是地下室而已」。

然而，这并没有阻止外界的猜测——特别是当他又在加州帕洛阿尔托（Palo Alto）克雷森特公园（Crescent Park）社区买下11处房产，并在下方兴建约7,000平方英尺的地下空间。

圖像來源，Bloomberg via Getty Images

圖像加註文字，扎克伯格據報在帕洛阿爾托的一個社區購置房產，總花費約1.1億美元。

《纽约时报》指出，虽然建筑许可证上写的是「地下室」，但有邻居称之为「地堡」，甚至戏称是「亿万富翁版的蝙蝠洞」。

其他科技界领袖似乎也在进行类似的「备灾投资」——购地兴建地下设施，将其改造成豪华地堡。

LinkedIn联合创办人里德·霍夫曼（Reid Hoffman）曾提及过「世界末日保险」（apocalypse insurance），他表示约有一半的超级富豪都拥有这种「保险」，而新西兰更是热门避难地。

那么，他们真的在为战争、气候变化，或某种我们尚未知晓的灾难做准备吗？

圖像來源，Getty Images News

圖像加註文字，薩姆·阿特曼曾表示，若發生全球性災難，他考慮過與彼得·蒂爾（Peter Thiel）一起前往紐西蘭偏遠地區的房產避難。

近年人工智能（AI）的飞快发展，让这份不安更深。 许多人担心科技进展的速度快得惊人。

Open AI的首席科学家兼联合创办人伊利亚·苏茨克弗（Ilya Sutskever）据报就是其中之一。

2023年中，总部位于旧金山的Open AI已推出ChatGPT——这款聊天机器人如今被全球数亿人使用，公司也在快速推出更新的版本。

不过，据记者郝珂灵（Karen Hao）在其新书中披露，那年夏天，苏茨克弗越来越相信计算机科学界已接近实现「人工通用智能」（AGI）——即机器能与人类智力匹敌的时刻。

她写道，苏茨克弗曾在一次会议上建议，应为公司顶尖科学家预先建造一座地下避难所，以防这项强大技术面世前出现意外。

圖像來源，AFP via Getty Images

圖像加註文字，伊利亚·苏茨克弗（Ilya Sutskever）据报曾说：「在人工通用智能面世之前，我们一定会先建好地堡。」

据广泛报道，苏茨克弗当时说：「在人工通用智能面世之前，我们一定会先建好地堡。」但我们究竟指的是谁，并不清楚。

这句话揭示了一个耐人寻味的现象：许多顶尖电脑科学家和科技业领袖，一方面全力推动高度智能的人工智能发展，另一方面却也深深害怕它最终可能带来的后果。

那么，所谓的「人工通用智能」如果真的会出现的话，究竟会在何时出现？ 它的革命程度是否真有可能强大到让普通人都感到恐惧？

「比我们想像的更快到来」

多位科技界领袖都声称，人工通用智能即将到来。 Open AI行政总裁阿特曼在2024年12月表示，人工通用智能将比世上大多数人想象的更快出现。

DeepMind联合创办人德米斯·哈萨比斯爵士（Sir Demis Hassabis）预测，它会在未来五至十年内实现。 Anthropic创办人达里奥·阿莫代（Dario Amodei）去年更撰文称，他偏好的说法是强人工智能（powerful AI），可能早在2026年就会出现。

然而，也有人持怀疑态度。 南安普顿大学（University of Southampton）计算机科学教授温蒂·霍尔女爵（Dame Wendy Hall）说：「他们总是在移动球门柱。 （何时实现人工通用智能）要看你问的是谁。”

她补充说：「科学界认为人工智能技术确实了不起，但离真正的人类智力还差得远。」

科技公司Cognizant的首席技术官巴巴克·霍贾特（Babak Hodjat）同意霍尔的说法。 他认为，实现人工通用智能之前必须先有一连串「根本性的突破」。

他亦指出，人工通用智能不太可能在某一刻突然出现。 人工智能是一项快速演进的技术，它正处于一场持续前进的旅程中，而全球有无数公司都在竞相研发各自版本的AI。

让硅谷人士特别兴奋的原因之一，是人工通用智能被视为通往更高阶形态的前奏——「人工超级智能」（ASI），也就是超越人类智慧的技术。

「奇点」（the singularity）这一概念最早可追溯至1958年，被追认为出自匈牙利裔数学家约翰·冯·诺伊曼（John von Neumann）之思想。 它指的是电脑智能发展至超越人类理解能力的那一刻。

图像来源，Getty Images

图象加注文字，约翰·冯·诺伊曼被认为是最早提出「奇点」概念的人之一，远在这个词出现之前。 他身兼物理学家、数学家、经济学家与电脑科学家等多重身份。

2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰写的书籍《创世纪》（Genesis），探讨了一种极度强大的科技——其在决策与领导上的效率高到人类最终可能将控制权完全交给它。

他们认为，这不是「会不会发生」的问题，而是「何时发生」的问题。

人人都有钱花，不用工作？

支持发展人工通用智能与人工超级智能的人，几乎以传教般的热情宣扬其潜在好处。 他们认为，这项技术将能找到致命疾病的新疗法、解决气候变化，甚至发明取之不尽的洁净能源。

伊隆·马斯克（Elon Musk）甚至声称，超级智能的AI可能开启一个「全民高收入」的新时代。

他最近表示，人工智能将变得极为便宜且普及，几乎人人都会想拥有自己专属的「R2-D2与C-3PO」（指《星球大战》中的机器人）。

他兴奋地说：「每个人都将享有最好的医疗、食物、住宅、交通，以及一切所需——永续的富足生活。」

当然，这也有令人恐惧的一面。 这项技术会否被恐怖分子利用，成为毁灭性的武器？ 又或者，它有一天自行判断人类才是世界问题的根源，进而决定毁灭我们？

图像来源，AFP via Getty Images

图象加注文字，伊隆·马斯克曾支持这样的观点：未来人人都会想拥有自己的R2-D2和C-3PO。

「如果它比你还聪明，那我们就必须把它控制起来。」万维网（World Wide Web）发明者蒂姆·伯纳斯-李（Tim Berners-Lee）本月稍早接受BBC访问时警告说。

「我们必须确保有能力把它关掉。」

各国政府也在采取保护措施。 美国作为众多领先AI公司的基地。 在2023年，时任总统拜登签署一项行政命令，要求部分企业向联邦政府提交安全测试结果。 不过，特朗普总统其后撤销了部分条款，称该命令是对创新的「阻碍」。

同时，英国政府两年前成立了「AI安全研究所」（AI Safety Institute），这是一个政府资助的研究机构，旨在更深入了解高阶人工智能可能带来的风险。

而那些超级富豪们，则有他们自己的「世界末日保险」计划。

图像来源，Getty Images

图象加注文字，马斯克曾兴奋地说：「每个人都会享有最好的医疗、食物、住宅、交通和一切所需——永续的富足生活。」

LinkedIn的霍夫曼曾打趣说：「说自己要在新西兰买房，其实就是一种心照不宣的暗号，懂的人自然懂。」想必地堡也是同样的意思。

不过，这里也暴露出一个极具人性的缺陷。

我遇过一位保镳，他曾为某位拥有「地堡」的亿万富翁工作过。 他告诉我，倘若世界真的发生灾难，他们的安保团队首要任务是干掉那位老板，然后自己进地堡。 从他的语气来看，他似乎不是在开玩笑。

这一切都是杞人忧天的胡言乱语吗？

尼尔·劳伦斯（Neil Lawrence）是剑桥大学的机器学习教授。 对他而言，整场关于人工通用智能的讨论本身就是一派胡言。

他说：「所谓『人工通用智能』这个概念，就像说要造出一种『人工通用交通工具』一样荒谬。」

「合适的交通工具取决于情境。 我坐空中巴士A350飞去肯尼亚，每天开车去大学上班，走路去餐厅吃饭⋯⋯没有一种交通工具能同时做到这一切。」

在他看来，有关人工通用智能的讨论只是在分散注意力。

「我们已经创造出的技术，让普通人首次能直接与机器对话，并让它按照人类的意愿行事。 这是极为非凡的——是彻底的变革。」

「但令人担忧的是，我们太容易被大科技公司营造出的人工通用智能故事吸引，而忽略了真正该思考的——如何让这些技术更好地服务人类。」

图像来源，Getty Images

图象加注文字，马克·扎克伯格与妻子普莉希拉合影。 他表示，夏威夷庄园的地下空间就像个小避难所。

现有的人工智能工具都是以海量数据训练出来的，擅长从中辨识模式——无论是医学影像中的肿瘤迹象，还是预测句子中下一个最可能出现的词。 然而，不论它们的回答多么逼真，人工智能依然不具备「感觉」。

Cognizant的霍贾特说：「有些『取巧』的方法可以让大型语言模型（AI聊天机器人的基础技术）表现得好像它有记忆、能学习，但这些做法都令人不满意，远不如人类。」

位于加州的 IV.AI 公司行政总裁文斯·林奇（Vince Lynch）同样对关于人工通用智能的夸大说法持保留态度。

他说：「这是很高明的行销。 如果你声称自己正在打造史上最聪明的东西，人们自然会想向你付款。」

他补充说：「这不是什么『两年内就能实现』的事。 它需要庞大的运算力、极高的人类创造力，还得经历无数次反复尝试。」

图像来源，Getty Images

图象加注文字，电影《2001太空漫游》早已警示人类关于具自我意识电脑的危险。

当被问到是否相信人工通用智能终有一天会实现时，他沉默了许久，然后说：「我真的不知道。」

没有意识的智能

在某些方面，人工智能已经超越了人类大脑。 生成式人工智能（Generative AI ）工具可以在这一分钟成为中世纪历史专家，下一分钟又能解出复杂的数学方程式。

一些科技公司承认，他们并不总是清楚自家产品为什么会产生某种回应。 Meta公司甚至表示，其AI系统已出现自我改进的迹象。

但归根究底，无论机器变得多么聪明，在生物层面上人类大脑仍占上风——它拥有约860亿个神经元和600兆个突触，远远超过人工系统的规模。

图象加注文字，研究人员正研究人脑，以期更深入理解「意识」的本质。

人类大脑在互动之间无需停顿，并且会不断适应新的信息。

霍贾特说：「如果你告诉一个人『在太阳系外的行星上发现了生命』，他会立刻记住这件事，并据此改变自己的世界观; 但对大型语言模型而言，只有当你不断重复这是事实时，它才会’知道’这件事。」

「大型语言模型也没有『元认知』，也就是说，它并不是真正知道自己知道什么。 而人类似乎拥有一种自我省察的能力，也就是所谓的’意识’，能让我们意识到自己所知道的东西。」

这正是人类智能的核心所在——也是目前实验室仍无法复制的部分。

主图来源：The Washington Post via Getty Images/ Getty Images MASTER. 首图为马克·扎克伯格与一张未知地点的地堡示意照。