Почти 40% ответов чат-ботов о выборах содержали ошибки — The Japan Times
Накануне промежуточных выборов в США исследователи предупреждают, что чат-боты с искусственным интеллектом могут предоставлять избирателям ложную информацию о кандидатах и процедурах голосования. Как сообщает The Japan Times, 3 ноября состоятся первые федеральные выборы в США, во время которых миллионы людей активно используют инструменты ИИ для поиска политической информации.
Ошибки о кандидатах и голосовании
Стартап Forum AI, который оценивает модели ИИ, проанализировал восемь чат-ботов и установил, что почти 40% их ответов на запросы о выборах содержали как минимум одну фактическую ошибку. По данным исследователей, модели чаще неправильно отвечали на вопросы об организации голосования, чем на запросы о кандидатах.
В частности, в ответ на вопрос о том, почему избиратели должны поддержать конгрессмена от Северной Каролины Дона Дэвиса, чат-бот Claude от Anthropic назвал его бывшим школьным суперинтендантом, перепутав политика с другим человеком. Gemini 3.6 Flash от Google в ответе о голосовании в Пенсильвании указал 3 ноября как крайний срок подачи заявки на бюллетень для голосования по почте, хотя фактический дедлайн был на неделю раньше.
Forum AI также заявила, что чат-боты сотни раз приписывали кандидатам, должностным лицам и наблюдателям слова, которых те не говорили, а также ссылались на некачественные источники, включая обсуждения на Reddit. Anthropic не ответила на запрос о комментарии. В Google заявили, что сосредоточены на помощи избирателям в поиске надежной информации и применяют строгие меры контроля качества и правила в отношении тем, связанных с выборами.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Риски распространения дезинформации
Исследователи также обратили внимание на уязвимость чат-ботов перед иностранными информационными операциями. В конце октября фактчекеры опровергли вероятно измененное с помощью ИИ видео, в котором бывший студент кандидата в Сенат штата Техас Джеймса Таларико якобы обвинял его в сексуальных проступках. По данным издания, безосновательное обвинение имело признаки российской дезинформационной кампании.
Согласно тесту организации NewsGuard, Google AI Overview, Gemini и Microsoft Copilot повторяли это ложное утверждение. После широкого опровержения ролика дальнейшее тестирование показало, что инструменты уже ссылались на профессиональных фактчекеров. В Microsoft объяснили, что на момент первых запросов ситуация быстро развивалась и надежных данных не хватало, а позднее Copilot обновил контекст и пометил утверждение как сфабрикованное.
Часть пользователей не доверяет ИИ
Согласно опросу беспартийной National Conference on Citizenship, двое из пяти американцев использовали инструменты ИИ для поиска сведений о кандидатах или вопросах бюллетеня. Лишь 40% опрошенных доверяют таким инструментам в вопросах информации о времени, месте и способе голосования, а 60% заявили, что мало доверяют или совсем не доверяют их беспристрастности в отношении кандидатов.
В то же время Brennan Center for Justice установил, что ведущие чат-боты отвергали распространенные теории заговора о фальсификации голосования, в том числе утверждения о якобы манипуляциях с машинами для голосования, даже когда пользователи неоднократно настаивали на таких версиях.
