Datawhale分享 

关于：AGI影响，编辑：新智元

**【导读】**牛津大学教授Nick Bostrom在学术界投下一枚炸弹——读博需要三思而后行。随着人工智能的飞速发展，也许是时候该质疑那些长期的学术投资了。

近日，哲学家Nick Bostrom发表了一个惊世骇俗的言论：「大学学位和博士课程等长期投资可能并不值得，因为AGI会很快到来」。

图片

这段1分钟的视频在社交媒体上引发了广泛讨论，一方面关于AI的发展是否会有那么大的加速，另一方面则是关于「学术投资」的回报率问题。

没有人知道未来会怎样，Bostrom的想法仅代表他个人，但却折射出了AI时代人们的疯狂与焦虑。

长期学术投资不值得？

「第一台超级智能机器是人类最后的发明」。

这是Bostrom最负盛名的一句名言，这个不祥的想法出自他的著作《Super Intelligence》。

图片

这本书被纽约时报评为Best Seller，也得到了比尔·盖茨和马斯克的推荐。

图片

Bostrom被《纽约客》形容为「末日哲学家」，也有「瑞典超级大脑」的称号。

作为牛津大学教授，他拥有理论物理学、计算神经科学、逻辑、人工智能以及哲学等多重学科背景，是世界上被引用次数最多的哲学家之一，并从2005年起领导牛津人类未来研究所，直至今年4月研究所被关闭。

今年4月份的时候，Bostrom再次宣称这一观点，超级智能是我们需要做出的最后一项发明，只是又多了一句话：它可能在短短一年内出现。

Bostrom：这场AI革命在未来5到10年内可能发生，但我们现在对人力资本长期投资的周期20到30年。这很有可能无法看到回报。因为到那时，AI也许已经在各个领域取代了我们，人力资本因此贬值。这就是未来可能不再存在的一个方面。

如果你真的很享受大学时光，那就去上大学，但如果只是为了拿到文凭而勉强自己，我建议你认真考虑是否有办法节省这3到4年，直接去做你想做的事情。

同样地，美国的博士项目可能需要5到6年，这段时间很长。我认为在很多情况下，这段时间可能太长，以至于不值得。

主持人：只是因为变化的速度加快了？

Bostrom：是的，因为时间可能更紧迫。

可以看出，Bostrom并不是劝大家「集体辍学」，而是说，如果把修读博士学位看作一种投资行为的话，那么你很有可能会拿不到你期望的收益，但你依然可以把求学当作一种享受。

然而，从反面思考这个问题也是意味深长——在AI颠覆就业市场的当下，我们的教育系统应该做出怎样的改变来跟上时代？对学生们的培养目标是否应该有所进化？

图片

「是时候让学校和大学扪心自问了：如果学生们正在准备的工作都被AI取代了，这些教育系统的目的何在？」

越来越近的AGI

引起热议的Bostrom的这段视频出自Tom Bilyeu主理的一档节目Impact Theory。

图片

在一个半小时的时间里，Tom Bilyeu和Nick Bostrom深入探讨了，越来越先进的AI将会产生怎样的道德和社会影响。

其中包括对待人工智能的道德考量、潜在的权力集中、警察和军队等关键部门的自动化，以及可能对社会产生深远影响的「超刺激」（hyper-stimuli）。

像Nick Bostrom一样相信AGI会很快到来的学者不在少数，宾夕法尼亚大学沃顿商学院的Ethan Mollick也是其中之一。

图片

图片

今年早些时候，Ethan Mollick发推特称，「许多计算机科学家曾认为近期 AGI是不可能的，但他们已经改变了主意。时间线在一年内缩短了13年。」

图片

伴随着Bostrom对AGI加速迫近的近乎疯狂的预测，这档节目还提及了他今年发布的新书《Deep Utopia》。

从书名就可以看出，Bostrom是一个技术乐观主义者。他表示，前两个世纪发生的种种事情让「反乌托邦」几乎成为了一种思维惯性，人们对「乌托邦」有过多的怀疑。

「拥有这些乌托邦社会愿景的人，如果他们真的获得了实现这些愿景的权力，就会造成一系列的破坏和痛苦。」

但Bostrom似乎无意理会，他更像是在一个思维实验——当很多问题都被技术解决时，世界会如何变化？人类又会如何看待彼时的生活和意义？

图片

《连线》杂志撰写的评论也许在很大程度上概括了这本书的中心思想：

《深度乌托邦》考虑的不是毁灭性的打击，而是人类成功开发出超级智能机器并避免了灾难的未来。 ……这本书审视了技术乌托邦中生活的意义，并质疑这种生活是否可能相当空洞。

在这场对谈中，Nick Bostrom有力地表达了自己的观点——

「与其让一些人每天早上开着垃圾车在城市里收集垃圾，还不如让一辆自动驾驶的垃圾车装上一个optimus机器人，把你的垃圾桶装满并捡起来，自动完成所有这些工作。」

「如果你重视对传统的维护，那么除了继续让人类自己做各种事情之外，可能就没有其他维护传统的方式了。」

「你可以想象一下，当你有了这些数字头脑，在短短几年内就能加快医学研究的进展，比如，也许能解开逆转衰老过程的治疗方法，等等，然后避免目前几乎无法避免的大量人类痛苦和死亡。」

「如果连一只老鼠都有可能声称自己有知觉，至少有某种简单形式的道德地位，那么，我认为，在行为方面与老鼠大致相当的人工智能系统，也将是道德地位的初步候选者。」

「现代社会的一些弊病可能是由于缺乏某种生存压力或机会，而这些压力或机会在我们进化的过去一直存在。」

「如果不需要做任何事情，那就需要寻找，还有什么可以为生活赋予意义。」

参考资料：

https://www.reddit.com/r/artificial/comments/1em4u97/nick_bostrom_says_it_may_not_be_worth_making/

https://youtu.be/OCNH3KZmby4

图片