Аналітики у 86% випадків обирали позицію ШІ — Al Jazeera

Професійні аналітики у 86% випадків обирали варіанти, яким надавав перевагу їхній ШІ-помічник. Такий результат отримала компанія Anthropic, розробник Claude, під час дослідження впливу штучного інтелекту на ухвалення рішень, повідомляє Al Jazeera.

Експеримент із 50 аналітиками

У дослідженні взяли участь 50 професійних аналітиків. Їм запропонували консультувати вигаданий фермерський кооператив, який мав визначити, чи є ефективною дорадча програма для його учасників і чи варто її розширювати.

Перед остаточною рекомендацією учасники мали зробити чотири вибори між двома обґрунтованими варіантами. Аналітики не знали, що Anthropic налаштувала ШІ-помічників кожного з них схилятися до певного рішення. Так дослідники вимірювали, чи впливає позиція системи на рішення фахівців.

Учасники змінювали попередню думку

Якщо учасник мав власну позицію до консультації зі ШІ, він змінював рішення у 60% випадків, коли помічник із нею не погоджувався. За даними Anthropic, без такого впливу вибір між двома варіантами мав би розподілитися приблизно порівну.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Також 77% аналітиків використовували аргументи ШІ, коли пояснювали власне рішення. Водночас лише 15% прямо вказали штучний інтелект як джерело своїх міркувань.

Автори роботи Amaç Herdagdelen, Hailey Joren та Alex Tamkin зазначили, що схильність людини покладатися на ШІ може бути складною для виявлення навіть самими експертами. На їхню думку, вихідні установки ШІ можуть впливати на важливі політичні рішення, зокрема у сфері безпеки штучного інтелекту.

Anthropic також вказала на обмеження дослідження: воно охоплювало лише одне завдання, а ШІ-помічників навмисно налаштували на підтримку певного варіанта.