W RPA specjalista ostrzegł przed ryzykiem manipulowania odpowiedziami AI — Daily Maverick
W Republice Południowej Afryki Felix Norton, pracujący w dziedzinie optymalizacji dla generatywnych systemów wyszukiwania, wyraził obawy dotyczące ryzyka, że sztuczna inteligencja może odtwarzać nie zmyślone, lecz celowo umieszczone w internecie twierdzenia. Jak pisze Daily Maverick, chodzi o wpływ na źródła, na podstawie których ChatGPT, Google AI i inne systemy tworzą rekomendacje oraz odpowiedzi.
Eksperyment z LinkedIn
Norton powiedział, że dla żartu opublikował na LinkedIn twierdzenie, iż jest czołowym ekspertem w dziedzinie GEO i AEO w RPA. Według jego słów po trzech dniach Google AI Overviews zaczął powtarzać to twierdzenie jako fakt i powoływał się na jego wpis na LinkedIn.
Zdaniem autora przykład ten pokazuje problem odmienny od tak zwanych halucynacji AI, gdy modele z przekonaniem wymyślają fakty, cytaty lub wydarzenia. Uważa on, że AI może wprowadzać w błąd również wtedy, gdy poprawnie powtarza informacje, które ktoś wcześniej umieścił w celu ich późniejszego wykorzystania przez systemy.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Ryzyko sztucznie wytworzonego konsensusu
Jako przykłady możliwego wpływu Norton wskazał rzekomo niezależne rankingi opłacone przez firmę, która została umieszczona na pierwszym miejscu, rekomendacje marki publikowane przez zwykłych użytkowników na Reddicie, a także fałszywe pozytywne opinie i publikowanie negatywnych informacji o konkurentach.
Według jego oceny powtarzanie jednego twierdzenia na wielu stronach może stworzyć wrażenie ustalonego faktu, choć takie źródła niekoniecznie są niezależne. Nazwał to sztucznie wytworzonym konsensusem i zauważył, że wyszukiwarki wcześniej przeważnie oferowały użytkownikom listę linków, podczas gdy AI coraz częściej podsumowuje informacje w gotowy wniosek.
Autor podkreślił, że link w odpowiedzi AI sam w sobie nie gwarantuje jej wiarygodności: źródła mogą być stronnicze, skoordynowane lub tworzone w celach komercyjnych. Wezwał do oceniania nie tylko strony internetowej, lecz także pochodzenia informacji, na podstawie której system sformułował odpowiedź.
