ШІ з’явився в епоху руйнування суспільної довіри — TIME
Штучний інтелект увійшов у період, коли суспільні механізми встановлення істини та довіри вже суттєво ослаблені, пише авторка книжки The Trust Code Тіффані Сін’ю Ван у матеріалі TIME. На її думку, найскладніші когнітивні технології в історії розвиваються на тлі фрагментованого інформаційного середовища, де знизилася довіра до інституцій, медіа та спільних способів перевіряти факти.
Від постправди до втрати довіри
Авторка розрізняє поняття «постправди» та «епохи після довіри». Oxford Dictionaries у 2016 році визначив «постправду» як обставини, за яких на формування суспільної думки емоції та особисті переконання впливають сильніше, ніж об’єктивні факти. Водночас «епоха після довіри», за визначенням Ван, означає глибшу проблему — втрату спільних процедур, за допомогою яких суспільство визначає, що вважати реальністю.
За останні два десятиліття інформаційна екосистема змінилася від моделі, у якій матеріали відбирали редактори та поширювала обмежена кількість посередників, до середовища, де будь-хто може публікувати, посилювати, спотворювати або фабрикувати інформацію. Алгоритми почали оптимізувати під кліки, залучення та сенсаційність. Як зазначає Ван, майже вісім із десяти людей переважно потрапляють до новин через алгоритмічні системи, зокрема стрічки соцмереж, пошуковики та агрегатори.
У США довіра до федерального уряду впала з понад 70% наприкінці 1950-х років до менш ніж 20% нині, а менш ніж третина американців висловлює хоча б певну довіру до масмедіа. Авторка також вказує на падіння довіри до релігійних інституцій, фінансових систем, медичних організацій і науки.
Більше актуальних новин читайте у Telegram-каналі UA.News.
ШІ та масштабування викривлень
Ван нагадує, що фотографія майже два століття сприймалася як доказ реальності. Однак на початку 2023 року згенероване ШІ зображення Папи Римського Франциска у білій пуховій куртці широко поширилося в соцмережах, і чимало людей спочатку сприйняли його за справжнє. Протягом двох років ШІ-зображення, голоси та відео стали настільки переконливими, що питання змінилося з уміння розпізнати підробку на можливість довіряти побаченому.
Авторка посилається на дослідження Duke та Нью-Йоркського університету, згідно з якими контакт із протилежними політичними поглядами у соцмережах може посилювати поляризацію. Інше дослідження, опубліковане в журналі Science, встановило, що неправдиві новини поширюються онлайн істотно швидше й ширше за достовірні.
На відміну від попередніх технологій, які розширювали людські можливості, ШІ може генерувати аргументи, узагальнювати інформацію, давати рекомендації та створювати тексти, код або музику. Такі моделі виявляють закономірності й кореляції в даних, але не розуміють істину так, як люди. Вони навчаються на новинах, дописах у соцмережах, оцифрованих книжках, архівах, політичних суперечках, наукових відкриттях і дезінформації, відтворюючи не лише знання, а й наявні викривлення та конфлікти.
