在巴基斯坦，Anthropic研究员雅各布·考克森称因人工智能风险辞职
在巴基斯坦，Anthropic研究员雅各布·考克森表示，他已辞职，原因是担忧人工智能实验室竞相开发的系统可能在数年内对人类生命构成威胁。Dawn报道。
据该媒体报道，《华尔街日报》最先报道了考克森的离职。该报称，此事是Anthropic员工因担忧人工智能安全而辞职的首批案例之一。
批评人工智能开发者
考克森在社交平台X的发文中表示，过去三年他一直在OpenAI和Anthropic从事模型预训练研究。他称，两家公司都在不负责任地行事，因为在他看来，它们正在竞相打造能够自我改进的超级智能。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
这名研究员呼吁不要低估这项技术的能力。他表示，这类系统可能很快超越人类、破解任何东西、迅速改变各个行业，并获得现实的权力和资源。考克森还声称，这些方向的进展并未放缓。
呼吁谨慎
考克森表示，一些人工智能领域的开发者和管理人员私下担心，到本世纪末，这项技术可能毁灭人类。在他看来，OpenAI并非所有人都意识到文明层面的风险，而Anthropic则理解这些风险，但希望领先于其他开发者。
他呼吁实验室员工重新思考开发速度，并且在未充分了解其性质的情况下，不要为超级智能系统启动强化学习。Dawn指出，考克森也是一千多名签署声明的人工智能研究人员之一；该声明呼吁各国政府进行全球协调，以便在必要时放缓能够自行改进的模型的发展。
