Європейська ШІ-модель Mistral виявилася вразливою до пропаганди РФ, — Financial Times
Популярна модель штучного інтелекту від французького стартапу Mistral продемонструвала низьку здатність розпізнавати та фільтрувати російську дезінформацію. Таких висновків дійшли дослідники Інституту естонської мови, які проаналізували ефективність десятків сучасних генеративних ІІ-систем.
Згідно з результатами дослідження, моделі з відкритим вихідним кодом виявилися найбільш уразливими до впливу російської пропаганди та маніпулятивних наративів.
Йдеться про системи, архітектура та програмний код яких доступні для публічного використання та модифікації.
Як зазначається, Mistral посіла лише 47-ме місце серед 60 протестованих моделей штучного інтелекту. Усі чотири протестовані версії французької системи показали результат нижче 40% за показником виявлення джерел, які дослідники класифікували як поширювачів шкідливої російської пропаганди.
Аналітики дійшли висновку, що Mistral значно поступається конкурентам у здатності розпізнавати неправдиві або маніпулятивні твердження, які використовуються Росією для впливу на міжнародну аудиторію.
Водночас закриті комерційні моделі продемонстрували кращі результати. Зокрема, ефективніше виявляти пропагандистські наративи змогли:
ChatGPT;
Claude від Anthropic;
Grok компанії xAI;
окремі китайські системи штучного інтелекту.
Дослідники наголошують, що проблема протидії дезінформації стає дедалі актуальнішою на тлі стрімкого поширення генеративного штучного інтелекту. Здатність моделей розпізнавати фейки, пропаганду та маніпулятивний контент дедалі частіше розглядається як один із ключових критеріїв оцінки їхньої надійності та безпеки.
Про це пише Financial Times.
Французький стартап у сфері штучного інтелекту Mistral AI залучив 385 млн євро під час раунду фінансування. У результаті оціночна вартість стартапу, який був створений менш як рік тому, зросла приблизно до 2 млрд дол.
