Badanie w USA wykazało ryzyko zniekształcenia pamięci przez podsumowania AI — The National

Recenzowane badanie w Stanach Zjednoczonych, opublikowane przez Georgetown University i University of Washington, wykazało, że niedokładne podsumowania artykułów i nagrań wideo tworzone przez sztuczną inteligencję mogą wpływać na to, jak ludzie zapamiętują wydarzenia. Jak informuje The National, takie omówienia często pomijają krytycznie ważne szczegóły lub błędnie opisują treść.

Pominięte szczegóły i fałszywe wspomnienia

W raporcie AI-Enabled Human Memory Manipulation wskazano, że podsumowania średnio pomijały 51,6% kluczowych szczegółów we wszystkich użytych poleceniach i modelach. Badacze sprawdzili kilka modeli AI, w tym ChatGPT firmy OpenAI oraz Gemini od Google.

Modele okazały się szczególnie niedokładne podczas opisywania animowanego nagrania wideo o wypadku z udziałem samochodu i pieszego. Badacze ustalili, że treść podsumowań AI wpływała na późniejsze odpowiedzi uczestników dotyczące tego, co widzieli.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wyniki eksperymentu

Poprawnie odpowiedziało 83,6% uczestników, którzy przeczytali dokładne omówienie nagrania wideo. Wśród osób, które zapoznały się z wprowadzającym w błąd podsumowaniem, poprawnej odpowiedzi udzieliło 44,8% respondentów.

Doktorantka University of Washington Yael Eiger, która pomagała kierować badaniem, wyraziła zaniepokojenie możliwym wykorzystaniem technologii podsumowywania wideo przez służby policyjne bez dokładnych testów i świadomości ryzyka błędów. Asystentka badawcza, profesor Georgetown University Mattea Sim, powiedziała, że wyniki powinny pomóc określić sytuacje, w których należy zrezygnować z podsumowań AI, przede wszystkim w krytycznie ważnych przypadkach.

Badanie zostanie przedstawione w Szwecji w październiku na konferencji poświęconej sztucznej inteligencji, etyce i społeczeństwu, organizowanej przez Association for the Advancement of Artificial Intelligence.