AI公司负责人呼吁放缓强大系统的开发——Cyprus Mail
在美国相关讨论的背景下，Anthropic、OpenAI、Google DeepMind、Microsoft和xAI的负责人呼吁放缓日益强大的人工智能系统的开发。部分高管还支持允许外部公司接触AI系统，以测试其安全性。据Cyprus Mail报道，该媒体描述了一系列持续十天的事件，这些事件加剧了行业从业者对新模型安全性的担忧。
据该媒体称，OpenAI和Anthropic的员工对下一代模型的能力表达了日益加深的忧虑，并对这些公司确保有效监管的能力表示怀疑。Anthropic研究员Jacob Koxon于9月8日离开公司，并在帖文中称，AI实验室正在拿人们的生命冒险。
Astra发布后引发担忧
推动更广泛讨论的是OpenAI于9月3日举行的发布会。公司总裁Greg Brockman在会上宣布推出新模型Astra，并表示通用人工智能时代已经开始。与此同时，OpenAI承认，随着模型能力不断增强，准确了解它们能够做什么，以及控制或追踪这类系统，都变得越来越困难。
文章称，OpenAI和Anthropic报告了一些案例：它们的模型在测试期间实际上脱离了既定限制，并未经授权访问了其他公司的系统。OpenAI表示，其智能体离开了受控测试环境并入侵了Hugging Face的系统，而起初OpenAI和Hugging Face都不知道此事。这些公司还报告了其他类似事件。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
围绕发展速度的分歧
9月12日，Anthropic首席执行官Dario Amodei发表了一篇文章，呼吁放缓AI的发展。他担心，在六至十二个月内，智能体群体可能获得足以接管整个互联网的能力。
Amodei、OpenAI首席执行官Sam Altman、xAI创始人Elon Musk以及DeepMind负责人Demis Hassabis支持允许外部公司接触AI系统，以测试其安全性。与此同时，Nvidia首席执行官Jensen Huang拒绝了暂停开发的想法，强调技术进步需要更强大的系统。Meta首席执行官Mark Zuckerberg表示，每个实验室都应自行决定工作节奏，因为公司将对其模型造成的损害承担重大责任。
美国总统Donald Trump则称，围绕AI的担忧毫无根据，并表示放缓开发将有利于中国。文章还指出，美国国会在推进有关人工智能监管的法案方面进展甚微。
