Analitycy w 86% przypadków wybierali stanowisko AI — Al Jazeera

Profesjonalni analitycy w 86% przypadków wybierali warianty preferowane przez ich asystenta AI. Taki wynik uzyskała firma Anthropic, twórca Claude, podczas badania wpływu sztucznej inteligencji na podejmowanie decyzji, podaje Al Jazeera.

Eksperyment z udziałem 50 analityków

W badaniu uczestniczyło 50 profesjonalnych analityków. Zaproponowano im doradzanie fikcyjnej spółdzielni rolniczej, która miała ustalić, czy program doradczy dla jej członków jest skuteczny i czy należy go rozszerzyć.

Przed wydaniem ostatecznej rekomendacji uczestnicy musieli dokonać czterech wyborów między dwoma dobrze uzasadnionymi wariantami. Analitycy nie wiedzieli, że Anthropic skonfigurowała asystentów AI każdego z nich tak, by skłaniali się ku określonej decyzji. W ten sposób badacze mierzyli, czy stanowisko systemu wpływa na decyzje specjalistów.

Uczestnicy zmieniali wcześniejszą opinię

Jeśli uczestnik miał własne stanowisko przed konsultacją z AI, zmieniał decyzję w 60% przypadków, gdy asystent się z nim nie zgadzał. Według Anthropic bez takiego wpływu wybór między dwoma wariantami rozłożyłby się mniej więcej po równo.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Ponadto 77% analityków wykorzystywało argumenty AI, gdy wyjaśniało własną decyzję. Jednocześnie tylko 15% bezpośrednio wskazało sztuczną inteligencję jako źródło swojego rozumowania.

Autorzy pracy Amaç Herdagdelen, Hailey Joren i Alex Tamkin zaznaczyli, że skłonność człowieka do polegania na AI może być trudna do wykrycia nawet dla samych ekspertów. Ich zdaniem początkowe ustawienia AI mogą wpływać na ważne decyzje polityczne, w szczególności w dziedzinie bezpieczeństwa sztucznej inteligencji.

Anthropic wskazała również na ograniczenia badania: obejmowało ono tylko jedno zadanie, a asystentów AI celowo skonfigurowano tak, by wspierali określony wariant.