极为罕见！顶级大佬齐呼吁暂停超级智能研发

这是一项由全球最具影响力的科技领袖、科学家和公众人物发起的呼吁，在政治立场、地域和行业背景都高度分化的背景下达成共识极为罕见。

倡议的核心内容

10月22日，非营利组织未来生命研究所宣布，包括AI教父杰弗里·辛顿在内的超过800名科技领袖及公众人物共同签署了一份倡议，呼吁在"超级智能"技术被科学界普遍认定为可控、安全，并获得公众广泛支持之前，暂停其进一步发展。截至10月23日中午，联署人数已突破3000人。12

所谓"超级智能"是指在所有认知任务上超越人类水平的人工智能形态。虽然目前大多数公司研发的仍属通用人工智能（AGI），但超级智能所预示的能力已引发业界普遍忧虑。2

签署名单的非凡跨度

这份倡议签署名单汇聚了极其多元的阵容，展现出罕见的跨政治、跨行业共识：

科技产业界大佬包括苹果公司联合创始人史蒂夫·沃兹尼亚克、维珍集团董事长理查·布兰森。1

政治与国家安全领域的重要人物包括前美国国家安全顾问苏珊·赖斯、前参谋长联席会议主席迈克·马伦。21

跨越政治立场的公众人物更是包括英国王妃梅根、特朗普盟友史蒂夫·班农等，这种跨越政治立场的联合极为罕见。1

学术界代表包括经济学家达龙·阿西莫格鲁等。2

中国学界的重量级参与者包括中国科学院院士、图灵奖得主姚期智，清华大学讲席教授张亚勤，清华大学苏世民书院院长薛澜，以及人工智能伦理与治理专家曾毅。12

警示的风险

签署者们发出了严肃的警告，称超级智能的前景引发了广泛担忧。具体风险包括：1

  • 人类在经济上被取代与权力剥夺31
  • 自由、公民权利、尊严和控制权的丧失31
  • 国家安全风险31
  • 甚至可能导致人类灭绝的极端威胁31

倡议明确指出，超级智能并非传统意义上的"算法偏见"或"就业冲击"问题，而是潜在的系统性风险；一旦AI能力全面超越人类，其目标函数若与人类利益错位，可能导致不可逆的社会后果。1

科学证据缺陷

中国科学院自动化研究所研究员曾毅坦言："目前我们还没有坚实的科学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。" 尽管目前绝大多数企业研发的仍属通用人工智能工具，但超级智能所带来的风险在科学上仍无法有效控制。21

公众态度支持

未来生命研究所发布的美国民意调查显示了公众的明确态度：仅有5%的受访者支持当前"无监管的AI开发现状"，而高达73%的受访者支持建立更为严格的监管机制，另有64%的受访者认为，在科学界尚未就安全与可控性达成共识之前，不应开发"超级智能"。1

全球治理前景

这一跨域联合阵容显示出超级AI的风险议题已从学术圈蔓延至政治与社会治理层面，成为全球公共议题之一。有分析认为，此次倡议或可推动G20或联合国层面的技术伦理议题重启，使AI治理从自律阶段走向多边协商阶段。1 45678910

  1. https://finance.sina.cn/2025-10-26/detail-infvesvt6440173.d.html?vt=4&pos=108 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  2. https://finance.sina.com.cn/wm/2025-10-26/doc-infvesvt6440173.shtml ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  3. https://news.china.com/socialgd/10000169/20251027/48938905.html ↩︎ ↩︎ ↩︎ ↩︎

  4. https://news.futunn.com/post/63819589/over-3000-top-industry-leaders-jointly-appeal-halt-the-development ↩︎

  5. https://sdxw.iqilu.com/share/dmlkZW8tMjEtMTY4NDE2ODA.html ↩︎

  6. https://www.163.com/dy/article/KCR2HFUL05568VOF.html ↩︎

  7. https://view.inews.qq.com/a/20251026V0445H00 ↩︎

  8. https://finance.sina.com.cn/tech/discovery/2025-10-27/doc-infvfcmp6211580.shtml ↩︎

  9. https://finance.sina.com.cn/hy/hyjz/2025-10-29/doc-infvpiyv0451130.shtml?cre=tianyi&mod=pchp&loc=29&r=0&rfunc=3&tj=cxvertical_pc_hp&tr=12 ↩︎

  10. https://dzrb.dzng.com/videos/0/NEWS2841052WQASXFIHCROWG ↩︎