阿莫代伊等人工智能行业领袖担忧模型自我改进——MarketWatch
Anthropic首席执行官达里奥·阿莫代伊以及其他人工智能行业代表，对AI模型能够在无人参与的情况下创造下一代此类系统表示担忧。MarketWatch报道。
递归自我改进
这一过程被称为递归自我改进。它意味着人工智能模型能够在没有人类帮助的情况下创造下一代AI系统。
据该媒体报道，有证据表明，这一过程已经在一些AI实验室的某些部门发生。同时，目前很难确定这一现象的普及程度。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
研究人员的立场
前Google DeepMind研究员亚历克斯·特纳近日因担忧AI安全问题离开该公司。他认为，递归自我改进可能迅速导致出现智能水平超出人类理解范围的系统。
MarketWatch写道，行业领袖所看到的这一过程实例令他们感到担忧。
