Амодеи и другие лидеры индустрии ИИ обеспокоены самосовершенствованием моделей — MarketWatch
Генеральный директор Anthropic Дарио Амодеи и другие представители индустрии искусственного интеллекта выражают обеспокоенность из-за способности моделей ИИ создавать следующие поколения таких систем без участия людей. Об этом сообщает MarketWatch.
Рекурсивное самосовершенствование
Такой процесс называют рекурсивным самосовершенствованием. Он предполагает, что модели искусственного интеллекта могут создавать следующие поколения систем ИИ без помощи людей.
По данным издания, есть свидетельства того, что этот процесс уже происходит в отдельных частях некоторых лабораторий ИИ. В то же время сейчас сложно определить, насколько распространено это явление.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиция исследователя
Бывший исследователь Google DeepMind Алекс Тернер, который недавно покинул компанию из-за опасений по поводу безопасности ИИ, считает, что рекурсивное самосовершенствование может быстро привести к появлению систем, интеллект которых будет за пределами человеческого понимания.
Доступные лидерам индустрии примеры такого процесса вызывают у них обеспокоенность, пишет MarketWatch.
