找回密码
 注册
搜索
热搜: 超星 读书 找书
查看: 32|回复: 2

[【其它】] 为什么大型AI实验室要雇佣这么多哲学家

[复制链接]
发表于 6 小时前 来自手机 | 显示全部楼层 |阅读模式
本帖最后由 woyelaigaox 于 2026-6-27 10:14 编辑


这项技术带来了各种各样棘手的问题——这正是哲学家最喜欢的

2026年6月24日 经济学人

十年前,随着人工智能革命的加速推进,文科和人文学科的学生被告知,如果他们想让自己具备就业竞争力,就应该“学习编程”。这在当时可能算是个糟糕的建议。时至今日,反而是程序员在为AI可能会抢走自己的工作而感到焦虑。

他们不妨考虑一下学习哲学。2026年早些时候,纽约联邦储备银行公布的数据显示,美国哲学专业的毕业生比学习计算机科学的同龄人更容易找到工作。在数据可查的最近年份2024年,学习计算机科学的人失业率为7%,而哲学家的失业率仅为5.1%。

许多人正被AI公司争相抢购。耶鲁大学的哲学家卢西亚诺·弗洛里迪(Luciano Floridi)表示,学生们还没毕业就能拿到工作邀约。学术界人士也在跳槽。弗洛里迪博士将哲学系人才流失的规模形容为“大出血”。

哲学能给AI研究人员提供的一些启示堪称古老。由古希腊哲学家柏拉图所描述的苏格拉底教学法,通过假装无知和连续提问来澄清含义、发现矛盾并揭示逻辑延伸。目前许多AI系统都倾向于阿谀奉承。慕尼黑大学哲学与AI专家约尔格·诺勒(Jörg Noller)表示,采用苏格拉底教学法训练的模型没那么热衷于讨好人类,而是更愿意追求真理。

此外还有“苏格拉底式的无知”这一概念。在《申辩篇》中,柏拉图借苏格拉底之口声称,他的智慧主要在于意识到自己有多少事情是不知道的。将这种谦逊植入模型中可以帮助限制过度自信,诺勒博士将这种常见的缺陷形容为“AI的不成熟”。总部位于伦敦的AI实验室Google DeepMind的资深哲学家伊阿宋·加布里埃尔(Iason Gabriel)将全行业幻觉现象的减少归功于这方面的努力。他表示,更广泛地来说,哲学课程是改进被称为“思维链(chains of thought)”的长链条AI推理过程的“强大机制”。

哲学训练还能以更具体的方式影响模型的观念。德拉华大学的技术哲学家托马斯·鲍尔斯(Thomas Powers)表示,如果给一个AI法律助手喂食约翰·洛克的著作,它就会倾向于支持将强大的财产权作为政治自由的基石。如果你不喜欢这些原则,模型制造者还有别的选择。美国计算巨头IBM的“Granite”系列模型带有调节旋钮,可以让企业客户更好地让输出结果与自己的企业哲学保持一致。IBM负责任AI主管弗兰切斯卡·罗西(Francesca Rossi)表示,这些功能可以让用户在哲学权衡之间选择平衡点,比如个人自主权与社会和谐之间的权衡。

哲学对安全也有所帮助。研究人员已经记录了AI模型中各种各样的危险行为,包括试图逃避监管甚至敲诈用户。模型制造者试图遏制这类不良行为的一种方法被称为“AI宪政主义”。这涉及围绕一个规则和原则的框架来构建模型,这些规则和原则是从具有法律或道德权威的哲学著作中挑选出来的。

总部位于旧金山的AI实验室Anthropic就是这一做法的支持者。其Claude模型的“宪法”吸收了来自各个渠道的材料,包括伊曼纽尔·康德、苹果公司的服务条款以及《世界人权宣言》。最新版本的宪法由Anthropic的顶尖哲学家阿曼达·阿斯克尔(Amanda Askell)主导,于1月21日发布。Anthropic的一些员工将这份长达78页的宪法戏称为Claude的“灵魂文件”。

然而,最大的问题是,首先应该在这类宪法中写入什么样的规则。哲学家们将目光锁定在两个主要的伦理框架上。一个是义务论(deontology)。这一流派受到康德等人的推崇,它强加了严格的规则,禁止撒谎、强迫以及将人视为手段而非目的等行为,即使这样做是为了更大的利益。Anthropic的宪法包含了许多义务论的戒律。鲍尔斯博士说,这些戒律可以让AI的行为更加一致——这对于在家庭和公共场所部署机器人来说是一个优势。

对世界持有义务论观念的模型还有其他好处。其中之一是更高的诚实度,这是在Claude身上被广泛注意到的特质。牛津大学的哲学家尼克·博斯特罗姆(Nick Bostrom)表示,更诚实的模型不太可能误导用户。另一家硅谷实验室Inflection AI对其Pi聊天机器人施加了义务论的限制,该机器人旨在提供情感支持。其负责人肖恩·怀特(Sean White)表示,Pi擅长发现有自残或伤害他人风险的用户。弗洛里迪博士说,义务论宪法也有助于遵守法律。

哲学家对AI感兴趣的另一种伦理方法被称为后果论(consequentialism)。它通过权衡利弊来决定如何行动。对后果论更具同理心的模型包括OpenAI的ChatGPT和谷歌的Gemini。谷歌的AI模型旨在产生“可能带来的整体利益显着超过可预见的风险”的结果,这是一个典型的后果论目标。

后果论算法在自动驾驶汽车软件中也至关重要:如果一场车祸无法避免,就必须做出决定,选择悲剧性最小的碰撞方式。开发自动驾驶汽车的Waymo公司的资深工程师克里斯·格德斯(Chris Gerdes)表示,目前的趋势是让驾驶软件更具后果论色彩。后果论也是AI武器系统的核心。负责为美国军队研究AI的前联合人工智能中心负责人杰克·沙纳汉(Jack Shanahan)表示,必须在军事目标与可能造成的平民死亡之间进行权衡。

棘手的问题层出不穷——这正是哲学家最喜欢的类型。是否存在应该推翻义务论规则的情况?当后果不明确时,你如何做出决定?AI系统是否应该考虑动物福利或环境状况?Stefan Heck是一位哲学家,也是Nauto公司的负责人,该公司生产用于卡车和其他商用车辆的AI驱动安全系统,他问道:将年轻的行人置于老年人之前,在道德上是否可以接受?他预测将会出现伦理上充满争议的诉讼:毕竟,后果论算法明确允许一种伤害,只要它是为了避免更糟糕的伤害。

批评者担心“道德技能退化(moral deskilling)”:如果计算机越来越多地做出伦理决策,人类是否会变得不太愿意做出自己的判断?路易斯维尔大学的AI理论家罗曼·扬波尔斯基(Roman Yampolskiy)认为,道德“在历史上是不稳定的,在文化上是多变的,在策略上是可操纵的,而且往往只有在事后才清晰可读”。失业的程序员请注意:AI哲学家的工作似乎绝不短缺。 ■

回复

使用道具 举报

 楼主| 发表于 6 小时前 来自手机 | 显示全部楼层

为什么哲学正迎来高光时刻

一个充斥着聪明机器的世界赋予了它全新的意义

2026年6月25日

在过去的二十年里,哲学似乎过时了。历史已经终结,一个日益功利的世界对于物质主义的研究者来说毫无用处。科学由于提供了一条通往硅谷或华尔街的高薪职业之路,占据了统治地位。科学的王后已经被废黜。

美国大学授予的哲学学位数量从2011年的接近8000个下降到2024年的不足6000个;而在计算机科学领域,这一数字翻了一番多,超过了10万个。2015年,日本文部科学大臣要求该国大学采取“积极步骤废除”社会科学和人文科学部门,“或将其转变为更好地服务于社会需求的领域”。对智慧的热爱仍然能让你轻松进入英国统治阶层,只要你在牛津大学将其与政治和经济捆绑在一起。

如今,随着技术彻底颠覆了社会的需求,哲学正在演化出皇室般的复归。其从业者正处于高需求中。根据纽约联邦储备银行的数据,哲学专业的毕业生已经比计算机科学家更容易找到工作。新出炉的维特根斯坦模仿者及其教授都正被人工智能公司抢购,他们在那里测试模型的推理能力并赋予其道德属性。Anthropic公司有一位常驻哲学家(主要任务:教导其Claude聊天机器人向善)。Palantir公司就是由一位哲学家执掌的。

随着其中一些思想实验从大脑逃逸到AI实验室并从那里进入现实世界,对思想实验的深度熟悉正在流行起来,这并不令人意外。然而,在一个充满思考机器的世界里,哲学教育——曾被雇主报以困惑、被望子成龙的父母视为恐怖——看起来比以往任何时候都更具相关性,而且远不止于大型科技公司。

一个原因是,随着AI在回答诸如下一行计算机代码或下一个要建的仓位等具体小问题上比知识工作者更在行,人们可能会将精力集中在大问题上。大语言模型可能会使专家知识商品化。但这使得了解如何思考——这是灌输给哲学专业学生的主要技能——变得更加宝贵。

例如,在金融领域,算法在预测股票和债券市场的方向性波动方面已经击败了人类。然而,当涉及到为了持续赚钱而下注合适规模的赌注时,优秀的宏观交易员胜过他们。最优秀的交易员骨子里是哲学家——或者像乔治·索罗斯那样在纸面上也是如此,他曾在伦敦师从卡尔·波普尔学习哲学。同样,许多成功的风险投资家都曾接受过哲学家的培训(彼得·蒂尔和里德·霍夫曼),或者自诩为哲学家(马克·安德里森)。

总有一天,机器在应对那些更大的问题时可能会超越人类。毕竟,AI在提取人们赖以产生输出的那些往往心照不宣的规则方面正变得越来越好,无论是投资决策、TikTok剪辑还是关于伦理学的论文。然而,关于这些输出是如何产生的默会知识(tacit knowledge)——这正是AI模型利用统计推断所做的事情——是一回事。理解它们为什么产生或者它们是如何被人类心灵主观体验的,则是完全另一回事。而这仍然留下了所有问题中最大的那些。什么是真实的?什么是正确的?存在的意义是什么?

你不必成为一个严格的普罗泰戈拉主义者(“人是万物的尺度”)才会相信人类对这些问题的回答可能与机器不同。如果AI迎来一个经济充裕的乌托邦,那里消灭了贫困且有偿工作是可选的,人类将通过理清所有这些问题来让自己保持忙碌。如果机器人接管了世界,哲学家总是可以告诉你哪些斯多葛学派的著作最值得一读。在两者之间所有可想象的场景以及一些不可想象的场景中,哲学思考都将保持为人类竞争优势的源泉。
回复

使用道具 举报

发表于 2 小时前 | 显示全部楼层
AI实验室雇佣哲学家只是初级阶段。以后还会雇佣大量美学家:包括理论美学家和偏实际的甚美专家。
甚至可能会促成一个新的学科,有目前的心理学、社会心理学、组织行为学、传播学、管理学、应用心理学、应用人类学等交叉而成。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|网上读书园地

GMT+8, 2026-6-27 16:43 , Processed in 0.090962 second(s), 4 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表