Datawhale分享 

关于:AGI影响,编辑:新智元

**【导读】**牛津大学教授Nick Bostrom在学术界投下一枚炸弹——读博需要三思而后行。随着人工智能的飞速发展,也许是时候该质疑那些长期的学术投资了。

近日,哲学家Nick Bostrom发表了一个惊世骇俗的言论:「大学学位和博士课程等长期投资可能并不值得,因为AGI会很快到来」。

图片

这段1分钟的视频在社交媒体上引发了广泛讨论,一方面关于AI的发展是否会有那么大的加速,另一方面则是关于「学术投资」的回报率问题。

没有人知道未来会怎样,Bostrom的想法仅代表他个人,但却折射出了AI时代人们的疯狂与焦虑。

长期学术投资不值得?

「第一台超级智能机器是人类最后的发明」。

这是Bostrom最负盛名的一句名言,这个不祥的想法出自他的著作《Super Intelligence》。

图片

这本书被纽约时报评为Best Seller,也得到了比尔·盖茨和马斯克的推荐。

图片

Bostrom被《纽约客》形容为「末日哲学家」,也有「瑞典超级大脑」的称号。

作为牛津大学教授,他拥有理论物理学、计算神经科学、逻辑、人工智能以及哲学等多重学科背景,是世界上被引用次数最多的哲学家之一,并从2005年起领导牛津人类未来研究所,直至今年4月研究所被关闭。

今年4月份的时候,Bostrom再次宣称这一观点,超级智能是我们需要做出的最后一项发明,只是又多了一句话:它可能在短短一年内出现。

Bostrom:这场AI革命在未来5到10年内可能发生,但我们现在对人力资本长期投资的周期20到30年。这很有可能无法看到回报。因为到那时,AI也许已经在各个领域取代了我们,人力资本因此贬值。这就是未来可能不再存在的一个方面。

如果你真的很享受大学时光,那就去上大学,但如果只是为了拿到文凭而勉强自己,我建议你认真考虑是否有办法节省这3到4年,直接去做你想做的事情。

同样地,美国的博士项目可能需要5到6年,这段时间很长。我认为在很多情况下,这段时间可能太长,以至于不值得。

主持人:只是因为变化的速度加快了?

Bostrom:是的,因为时间可能更紧迫。

可以看出,Bostrom并不是劝大家「集体辍学」,而是说,如果把修读博士学位看作一种投资行为的话,那么你很有可能会拿不到你期望的收益,但你依然可以把求学当作一种享受。

然而,从反面思考这个问题也是意味深长——在AI颠覆就业市场的当下,我们的教育系统应该做出怎样的改变来跟上时代?对学生们的培养目标是否应该有所进化?

图片

「是时候让学校和大学扪心自问了:如果学生们正在准备的工作都被AI取代了,这些教育系统的目的何在?」

越来越近的AGI

引起热议的Bostrom的这段视频出自Tom Bilyeu主理的一档节目Impact Theory。

图片

在一个半小时的时间里,Tom Bilyeu和Nick Bostrom深入探讨了,越来越先进的AI将会产生怎样的道德和社会影响。

其中包括对待人工智能的道德考量、潜在的权力集中、警察和军队等关键部门的自动化,以及可能对社会产生深远影响的「超刺激」(hyper-stimuli)。

像Nick Bostrom一样相信AGI会很快到来的学者不在少数,宾夕法尼亚大学沃顿商学院的Ethan Mollick也是其中之一。

图片

图片

今年早些时候,Ethan Mollick发推特称,「许多计算机科学家曾认为近期 AGI是不可能的,但他们已经改变了主意。时间线在一年内缩短了13年。」

图片

伴随着Bostrom对AGI加速迫近的近乎疯狂的预测,这档节目还提及了他今年发布的新书《Deep Utopia》。

从书名就可以看出,Bostrom是一个技术乐观主义者。他表示,前两个世纪发生的种种事情让「反乌托邦」几乎成为了一种思维惯性,人们对「乌托邦」有过多的怀疑。

「拥有这些乌托邦社会愿景的人,如果他们真的获得了实现这些愿景的权力,就会造成一系列的破坏和痛苦。」

但Bostrom似乎无意理会,他更像是在一个思维实验——当很多问题都被技术解决时,世界会如何变化?人类又会如何看待彼时的生活和意义?

图片

《连线》杂志撰写的评论也许在很大程度上概括了这本书的中心思想:

《深度乌托邦》考虑的不是毁灭性的打击,而是人类成功开发出超级智能机器并避免了灾难的未来。 ……这本书审视了技术乌托邦中生活的意义,并质疑这种生活是否可能相当空洞。

在这场对谈中,Nick Bostrom有力地表达了自己的观点——

「与其让一些人每天早上开着垃圾车在城市里收集垃圾,还不如让一辆自动驾驶的垃圾车装上一个optimus机器人,把你的垃圾桶装满并捡起来,自动完成所有这些工作。」

「如果你重视对传统的维护,那么除了继续让人类自己做各种事情之外,可能就没有其他维护传统的方式了。」

「你可以想象一下,当你有了这些数字头脑,在短短几年内就能加快医学研究的进展,比如,也许能解开逆转衰老过程的治疗方法,等等,然后避免目前几乎无法避免的大量人类痛苦和死亡。」

「如果连一只老鼠都有可能声称自己有知觉,至少有某种简单形式的道德地位,那么,我认为,在行为方面与老鼠大致相当的人工智能系统,也将是道德地位的初步候选者。」

「现代社会的一些弊病可能是由于缺乏某种生存压力或机会,而这些压力或机会在我们进化的过去一直存在。」

「如果不需要做任何事情,那就需要寻找,还有什么可以为生活赋予意义。

参考资料:

https://www.reddit.com/r/artificial/comments/1em4u97/nick_bostrom_says_it_may_not_be_worth_making/

https://youtu.be/OCNH3KZmby4

图片