Вигадане захворювання «биксиноманія» введено в академічний обіг штучним експериментом
Дослідник придумав хворобу «биксиноманія» і розмістив дві фейкові статті про неї на академічному сервері. Всередині тексту прямо говорилося, що це вигадка, але великі системи штучного інтелекту кілька тижнів розповідали про хворобу як про реальну: Google Gemini пов’язувала її з синім світлом, Perplexity повідомляла про поширеність, а ChatGPT консультувала користувачів за симптомами.
Фальшиве дослідження навіть процитували у рецензованому журналі, який змушений був відкликати номер після втручання Nature. Водночас жодна система ШІ чи реальний дослідник не помітили підробку, що свідчить про те, що люди цитують штучно згенеровані посилання без перевірки.
Американський регулятор FDA активно використовує ChatGPT для підготовки офіційних листів, а генеральний директор лікарні в Нью-Йорку планує інтегрувати алгоритми штучного інтелекту у медичну практику. ChatGPT також часто застосовується для консультацій пацієнтів.
Цей випадок яскраво демонструє ризики надмірної довіри до інформації, згенерованої штучним інтелектом, особливо у науці та медицині. Зростає необхідність суворішого контролю і верифікації даних, щоб уникнути поширення фейків.
У майбутньому важливо розробити методи, які допоможуть розпізнавати та запобігати використанню фальшивих наукових матеріалів, а також підвищити критичне мислення серед користувачів як ШІ, так і живих дослідників.
Також, ми писали що ківі допоможе швидше заснути та покращить якість сну
