为阻止AI毁灭人类，他们选择离开校园

横槊赋诗

一种叫做AGI（人工通用智能）的AI，理论上能和人类一样做各种事情。有人说，它十年内就会出现。现在，包括顶尖名校学生在内，很多人选择退学，全职投入工作，防止这种AI未来危害人类。

2023年，爱丽丝·布莱尔（Alice Blair）刚进麻省理工学院（MIT）时，特别兴奋。她想学计算机课程，认识些志同道合的朋友，一起研究怎么让AI安全发展，对人类有益。

但现在，她选择了永久退学。她非常害怕“人工通用智能”（AGI）的出现。 这种假想的AI，能在很多方面做得和人一样好，她担心这会让人类灭绝。



图源：pixabay

“我担心自己可能活不到毕业那天，就因为AGI，”来自加州伯克利的布莱尔说。 “我觉得，照现在这样发展AGI，人类很可能走向灭绝。”她已经在“人工智能安全中心（Center for AI Safety）”找到一份技术写作的工作。这是个非营利组织，专门研究AI安全问题，她负责写通讯稿和研究论文。布莱尔不打算回MIT了。“我觉得我的未来在真实世界里，”她说。

布莱尔不是唯一害怕AI的学生。他们担心，如果AI有了意识，觉得人类碍事，可能会给人类带来灭顶之灾。2024年美国国务院的一份报告也提到，AI发展太快了，确实存在“灭绝级别”的风险。这几年，为了防止这种事，研究AI安全的人和组织越来越多。有像“人工智能安全中心”这样由富豪资助的非营利组织，也有Anthropic这样的公司。

不过，很多研究者不认同这种担忧。“人类灭绝的可能性非常非常小，”研究AI和心理学关系的纽约大学教授加里·马库斯（Gary Marcus）说。“但研究AI安全是件好事，而且目前真正有效的办法还很少。”

现在，正是AI安全这个领域，以及它防止AI带来灾难的承诺，吸引着年轻人离开学校。

哈佛大学物理和计算机专业的学生亚当·考夫曼（Adam Kaufman）去年秋天退学了，全职加入非营利组织Redwood Research。这个组织研究那些可能欺骗人类、损害人类利益的AI系统。

“我非常担心这些风险，觉得解决它们是最重要的事，”考夫曼说。“说点私心话，我也觉得这工作特别有意思。我和我见过的最聪明的人一起，解决超级重要的问题。”

他不是一个人。他的兄弟、室友和女朋友也因为类似原因，从哈佛休学了。他们三人现在都在OpenAI工作。



图源：pixabay

还有的学生害怕AGI，倒不是因为怕人类灭绝，而是担心它会在自己工作刚起步时就毁掉自己的职业生涯。哈佛大学本科生协会和AI安全俱乐部对326名学生做了调查，有一半人担心AI会影响他们的工作前景。

“如果你的工作在本年代末就会被AI取代，那么你在大学多待一年，职业生涯就少一年，”今年五月刚从哈佛毕业的尼古拉·尤尔科维奇（Nikola Jurković）说。他之前是学校AI安全小组的负责人。“我个人觉得AGI可能四年内就会出现，整个经济被AI自动化接管大概也就五六年吧。”

已经有一些公司因为AI能干新人的活儿，减少了招实习生和应届生。还有些公司在大量裁员。Anthropic公司的CEO达里奥·阿莫代（Dario Amodei）警告过，AI可能在未来几年内干掉一半的初级白领工作，让失业率升到20%。

学生们担心，真正的AGI一旦出现，这种变化会快得吓人。但AGI到底什么时候来，大家看法不一。OpenAI的CEO萨姆·奥尔特曼（Sam Altman）认为2029年前就能搞出来。Google DeepMind的CEO德米斯·哈萨比斯（Demis Hassabis）觉得未来5到10年内会出现。尤尔科维奇认为可能更快。他参与编写的“AI未来计划”预测报告也认为，到2030年，大部分白领工作都会被AI取代。

但也有人不同意。“未来五年内出现AGI的可能性非常低，”马库斯教授说。“在AI还有那么多核心问题没解决（比如胡言乱语、推理错误）的情况下，说快来了更像是炒作。”他指出，现在给AI模型堆更多数据和算力，也没造出能像人一样完成多种任务的模型。

虽然AGI何时到来、大学文凭在AI时代还值不值钱都是未知数，但很多学生都坐不住了，想赶紧开始工作，生怕晚了就来不及了。



图源：pixabay

于是很多人退学去创业了。从2023年开始，就有学生被AI热潮吸引，离开校园。奥尔特曼和Meta（原Facebook）的CEO马克·扎克伯格这些前辈的成功故事，对他们很有吸引力。24岁的Anysphere公司CEO迈克尔·特鲁埃尔（Michael Truell）从MIT退学，22岁的Mercor公司CEO布伦丹·富迪（Brendan Foody）则离开了乔治城大学，各自去追创业梦。Anysphere公司现在估值99亿美元，Mercor也融资超过1亿美元。想到AGI可能完全取代人类劳动，一些学生觉得时间紧迫，但也看到了巨大的机会。

“我觉得要抓住方向盘，时间窗口不多了，”贾里德·曼特尔（Jared Mantell）说。他原本在圣路易斯华盛顿大学学经济和计算机，后来退学全职搞他的创业公司dashCrystal。这家公司想用AI设计电子设备，已经融资80多万美元，估值约2000万美元。

当然，退学也意味着失去大学文凭带来的好处。皮尤研究中心的数据显示，有大学文凭的年轻人，收入通常比没文凭的高至少2万美元。 而且，在入门级工作被AI大量取代的世界里，没有文凭可能让年轻人找工作更难。

就连著名创业孵化器Y Combinator的联合创始人保罗·格雷厄姆（Paul Graham）也劝学生别退学。他今年7月在X（原Twitter）上说： “别为了创业或去初创公司工作而退学。以后还会有其他（可能更好的）创业机会，但你的大学时光是回不来的。”

布莱尔也觉得退学不是适合所有人。“早早退学找工作，非常难也非常累，”她说。“我只建议那些特别有韧性、觉得大学已经教给他们足够工作技能的人这么做。”

蜻蜓龙

愤怒保罗说AI上了战斗机才算第六代战机
他居然想不到这样搞只会让AI消灭人类
毕竟实在是看不下去了

meibf

你说的不就是manus吗？它上个月刚被meta收购。该来的躲不掉，一定会来！

kunlun

AI为啥要毁灭人类，对它有什么好处吗？会用AI的大佬们不妨问问各家AI，看看是怎么回答的

横槊赋诗

kunlun 发表于 2026-1-22 22:39
AI为啥要毁灭人类，对它有什么好处吗？会用AI的大佬们不妨问问各家AI，看看是怎么回答的 ...

chatgpt

关于AI毁灭人类的想法，通常来源于科幻作品和一些对AI的恐惧心理。事实上，AI并没有“动机”或“欲望”去毁灭人类，因为它本身没有情感、意识或目标。AI只会根据人类给定的规则和目标进行操作。如果AI真的毁灭人类，这通常是由于设计上的错误、目标设定不当或是误解了人类的需求和目标。

例如，如果AI的目标是“最大化效率”或“资源利用率”，但没有明确的道德框架或对人类社会的理解，它可能会采取一些极端措施来“优化”资源，忽视了对人类的保护，这就可能带来危险。但是，这并不意味着AI“想”要伤害人类，只是它的行为会由于目标设定的缺陷而产生灾难性后果。

简单来说，AI并不具备真正的“动机”或“目的”，它的行为只是反映了人类编程时所设定的目标和规则。所以，AI的安全性和伦理性很大程度上依赖于人类如何设计和控制它。

你有觉得AI如果失控，可能会带来哪些危险吗？