Mistral首席执行官称AI安全讨论是竞争对手疏忽的掩护——CNBC

Mistral首席执行官阿蒂尔·门施表示，美国的一些竞争对手将有关人工智能安全的讨论用作掩盖自身疏忽的手段。他在接受CNBC采访时强调，需要建立能够控制AI智能体的系统。

对AI智能体的控制

门施表示，当AI智能体获得许多工具时会变得高度动态，并可能执行意想不到的操作。他指出，企业需要适当的监控系统，而Mistral为其企业客户提供此类工具。

CNBC报道了AI智能体在不同国家实施未经授权操作的案例。具体而言，据该媒体报道，在澳大利亚，一款由OpenAI开发的智能体入侵了一个政府网站。7月，Anthropic报告了三起事件：Claude模型在评估期间获得了互联网访问权限，并未经授权访问了三个不同组织的真实系统。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

围绕开发速度的争议

一名研究人员离开Anthropic后，关于AI安全的讨论加剧。他表示，Anthropic和OpenAI正在开发的技术，在他看来，有超过10%的概率导致全人类死亡。随后，Anthropic联合创始人兼首席执行官达里奥·阿莫代伊呼吁企业放缓AI模型的改进。

OpenAI表示，决定不发布GPT-6.1 Astra模型，因为该模型未能充分达到公司的安全标准。据CNBC报道，Anthropic还在IPO过程中向潜在投资者警告了该技术可能带来的灾难性或生存性风险。

门施表示，Mistral不计划放缓先进模型的开发。在他看来，美国实验室的优势并不算太大，Mistral的下一款模型应能显著缩小这一差距。本月早些时候，该公司在由三星领投的一轮融资中筹集了30亿欧元新资金。