Anthropic研究员Coxon辞职并警告人工智能风险 — Asharq Al-Awsat

在美国，27岁的研究员雅各布·科克森上个月从Anthropic离职，并警告称，人工智能领域的公司正将人们的生命置于风险之中。他的帖文浏览量超过1亿次。数日后，Anthropic首席执行官达里奥·阿莫代伊发表了一篇长文，称由于风险不断上升，人工智能的发展应当放缓，据Asharq Al-Awsat报道。

什么是有效利他主义

有关人工智能风险的讨论与有效利他主义运动有关。该运动的支持者试图通过证据和理性分析，确定如何最有效地利用金钱和时间来造福社会。该运动的思想起源与澳大利亚哲学家彼得·辛格有关。1972年，他主张人们应当牺牲资源和舒适生活，以拯救其他国家的生命，因为距离不应成为影响因素。

2007年，金融家霍尔登·卡诺夫斯基和埃利·哈森费尔德创立了GiveWell，这是一个基于数据分析慈善基金会有效性的组织。两年后，牛津大学哲学家威廉·麦卡斯基尔和托比·奥德创办了Giving What We Can，呼吁人们至少捐出收入的10%用于对抗全球贫困。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

与科技行业的联系

有效利他主义的三个关键领域包括全球贫困、工业化农场中的动物，以及全球性灾难的风险。最后一个领域将该运动与有关人工智能潜在威胁的辩论，以及长期主义理念联系起来——长期主义是一种聚焦于人类未来的哲学。

阿莫代伊表示，他并非该运动的成员，但他的职业和个人圈子与之有密切联系。卡诺夫斯基此前是他的室友，如今则与阿莫代伊的妹妹丹妮埃拉结婚；丹妮埃拉与阿莫代伊共同创立了Anthropic。Anthropic的早期投资者之一是萨姆·班克曼-弗里德——一名有效利他主义支持者，他于2024年因欺诈被判处25年监禁。

美国总统唐纳德·特朗普政府的许多代表认为，该运动助长了对人工智能毫无根据且被夸大的担忧。与此同时，有效利他主义及与其相关的理性主义运动强调评估概率，并防范可能导致人类灭绝的风险。