Вымышленное заболевание «биксиномания» было введено в академический оборот с помощью искусственного эксперимента
Исследователь придумал болезнь «биксиномания» и разместил две фейковые статьи о ней на академическом сервере. В тексте прямо говорилось, что это выдумка, но крупные системы искусственного интеллекта несколько недель рассказывали о болезни как о реальной: Google Gemini связывала ее с синим светом, Perplexity сообщала о распространенности, а ChatGPT консультировала пользователей по симптомам.
Фальшивое исследование даже процитировали в рецензируемом журнале, который был вынужден отозвать номер после вмешательства Nature. При этом ни одна система ИИ или реальный исследователь не заметили подделку, что свидетельствует о том, что люди цитируют искусственно сгенерированные ссылки без проверки.
Американский регулятор FDA активно использует ChatGPT для подготовки официальных писем, а генеральный директор больницы в Нью-Йорке планирует интегрировать алгоритмы искусственного интеллекта в медицинскую практику. ChatGPT также часто применяется для консультаций пациентов.
Этот случай ярко демонстрирует риски чрезмерного доверия к информации, сгенерированной искусственным интеллектом, особенно в науке и медицине. Растет необходимость более строгого контроля и верификации данных, чтобы избежать распространения фейков.
В будущем важно разработать методы, которые помогут распознавать и предотвращать использование фальшивых научных материалов, а также повысить критическое мышление среди пользователей как ИИ, так и живых исследователей.
Также мы писали, что киви поможет быстрее заснуть и улучшит качество сна
