У ПАР фахівець попередив про ризик маніпуляцій відповідями ШІ — Daily Maverick
У Південно-Африканській Республіці Фелікс Нортон, який працює у сфері оптимізації для генеративних пошукових систем, висловив занепокоєння через ризик того, що штучний інтелект може відтворювати не вигадані, а навмисно розміщені в інтернеті твердження. Як пише Daily Maverick, йдеться про вплив на джерела, з яких ChatGPT, Google AI та інші системи формують рекомендації й відповіді.
Експеримент із LinkedIn
Нортон розповів, що жартома опублікував у LinkedIn твердження, нібито він є провідним експертом із GEO та AEO у Південній Африці. За його словами, через три дні Google AI Overviews почав повторювати це твердження як факт і посилався на його допис у LinkedIn.
На думку автора, цей приклад демонструє проблему, відмінну від так званих галюцинацій ШІ, коли моделі впевнено вигадують факти, цитати або події. Він вважає, що ШІ може вводити в оману й тоді, коли коректно повторює інформацію, яку хтось заздалегідь розмістив для її подальшого використання системами.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Ризик штучно сформованого консенсусу
Як приклади можливого впливу Нортон навів нібито незалежні рейтинги, оплачені компанією, яку поставили на перше місце, рекомендації бренду від імені звичайних користувачів на Reddit, а також фальшиві позитивні відгуки й публікації негативної інформації про конкурентів.
За його оцінкою, повторення одного твердження на багатьох сайтах може створити враження усталеного факту, хоча такі джерела не обов’язково є незалежними. Він назвав це штучно сформованим консенсусом і зазначив, що пошукові системи раніше переважно пропонували користувачам перелік посилань, тоді як ШІ дедалі частіше узагальнює інформацію в готовий висновок.
Автор наголосив, що посилання у відповіді ШІ саме по собі не гарантує її надійності: джерела можуть бути упередженими, скоординованими або комерційно створеними. Він закликав оцінювати не лише сайт, а й походження інформації, на основі якої система сформувала відповідь.
