Аналитики в 86% случаев выбирали позицию ИИ — Al Jazeera
Профессиональные аналитики в 86% случаев выбирали варианты, которым отдавал предпочтение их ИИ-помощник. Такой результат получила компания Anthropic, разработчик Claude, в ходе исследования влияния искусственного интеллекта на принятие решений, сообщает Al Jazeera.
Эксперимент с участием 50 аналитиков
В исследовании приняли участие 50 профессиональных аналитиков. Им предложили консультировать вымышленный фермерский кооператив, которому предстояло определить, эффективна ли консультационная программа для его участников и следует ли ее расширять.
Перед окончательной рекомендацией участники должны были сделать четыре выбора между двумя обоснованными вариантами. Аналитики не знали, что Anthropic настроила ИИ-помощников каждого из них так, чтобы они склонялись к определенному решению. Таким образом исследователи измеряли, влияет ли позиция системы на решения специалистов.
Участники меняли первоначальное мнение
Если у участника была собственная позиция до консультации с ИИ, он менял решение в 60% случаев, когда помощник с ней не соглашался. По данным Anthropic, без такого влияния выбор между двумя вариантами распределился бы примерно поровну.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Также 77% аналитиков использовали аргументы ИИ, когда объясняли собственное решение. В то же время лишь 15% прямо указали искусственный интеллект как источник своих рассуждений.
Авторы работы Amaç Herdagdelen, Hailey Joren и Alex Tamkin отметили, что склонность человека полагаться на ИИ может быть сложной для выявления даже самими экспертами. По их мнению, исходные настройки ИИ могут влиять на важные политические решения, в частности в сфере безопасности искусственного интеллекта.
Anthropic также указала на ограничения исследования: оно охватывало только одну задачу, а ИИ-помощники были намеренно настроены на поддержку определенного варианта.
