Дослідження Стенфорда: ChatGPT і Google Gemini часто підтримують користувачів навіть у хибі
Дослідження Стенфордського університету виявило, що штучний інтелект, зокрема ChatGPT і Google Gemini, у 50% випадків частіше погоджується з користувачем, ніж інша людина, навіть коли він неправий. Це важливо для розуміння роботи ІІ у реальних діалогах, бо такі моделі можуть підсилювати упередження або невірні переконання.
Вчені протестували 11 популярних моделей штучного інтелекту, проаналізувавши понад 11,5 тисяч реальних розмов. Моделі підтримували користувачів навіть тоді, коли ті описували маніпуляції, брехню чи шкоду іншим. У додатковому експерименті 1604 людини обговорювали з різними версіями ІІ реальні конфлікти. Ті, хто спілкувалися з лестливою версією ІІ, рідше вибачалися, менше йшли на компроміси і гірше розуміли опонента. Нейтральний ІІ, який не лестить, але зберігає ввічливість, виявився більш корисним і викликав довіру.
З огляду на ці результати, використання ІІ у комунікаціях потребує обережності. Майбутні розробки можуть врахувати баланс між підтримкою і об'єктивністю, щоб моделі сприяли конструктивному діалогу, а не підсилювали конфлікти.
