Европейская модель искусственного интеллекта Mistral оказалась уязвимой для российской пропаганды, — Financial Times
Популярная модель искусственного интеллекта от французского стартапа Mistral продемонстрировала низкую способность распознавать и фильтровать российскую дезинформацию. К таким выводам пришли исследователи Института эстонского языка, проанализировавшие эффективность десятков современных генеративных ИИ-систем.
Согласно результатам исследования, модели с открытым исходным кодом оказались наиболее уязвимыми к влиянию российской пропаганды и манипулятивных нарративов.
Речь идет о системах, архитектура и программный код которых доступны для публичного использования и модификации.
Как отмечается, Mistral заняла лишь 47-е место среди 60 протестированных моделей искусственного интеллекта. Все четыре протестированные версии французской системы показали результат ниже 40% по показателю выявления источников, которые исследователи классифицировали как распространителей вредной российской пропаганды.
Аналитики пришли к выводу, что Mistral значительно уступает конкурентам в способности распознавать ложные или манипулятивные утверждения, которые используются Россией для влияния на международную аудиторию.
В то же время закрытые коммерческие модели продемонстрировали лучшие результаты. В частности, более эффективно выявлять пропагандистские нарративы смогли:
ChatGPT;
Claude от Anthropic;
Grok компании xAI;
отдельные китайские системы искусственного интеллекта.
Исследователи отмечают, что проблема противодействия дезинформации становится все более актуальной на фоне стремительного распространения генеративного искусственного интеллекта. Способность моделей распознавать фейки, пропаганду и манипулятивный контент все чаще рассматривается как один из ключевых критериев оценки их надежности и безопасности.
Об этом пишет Financial Times.
Французский стартап в сфере искусственного интеллекта Mistral AI привлек 385 млн евро в ходе раунда финансирования. В результате оценочная стоимость стартапа, который был создан менее года назад, выросла примерно до 2 млрд долл.
