Разработчики обнаружили ряд случаев возможного использования ИИ для создания биологического оружия
Американская компания Anthropic сообщила о пяти случаях, когда её модель искусственного интеллекта Claude могла использоваться в исследованиях, потенциально связанных с разработкой биологического оружия.
В компании подчеркнули, что не знают точных планов ученых, использовавших Claude, а также не раскрывают названия соответствующих исследовательских организаций и стран.
По словам Anthropic, проблема заключается в том, что одни и те же биологические методы могут применяться как для создания лекарств и вакцин, так и для разработки опасных патогенов.
«Вы не видите человека, который говорит, как в комиксе: „Эй, я хочу создать биологическое оружие и убить всех“», — заявил глава отдела анализа угроз Anthropic Джейкоб Кляйн.
Один из выявленных случаев произошел в мае 2026 года.
По данным Anthropic, один из учёных попросил Claude помочь подготовить заявку на финансирование исследований вируса чикунгунья.
Согласно описанию проекта, исследования предполагали генетическую модификацию вируса, изучение особенностей его распространения и способности уклоняться от иммунного ответа организма.
При этом работы планировалось проводить в военном исследовательском институте.
Anthropic отмечает, что такие случаи демонстрируют сложность контроля за использованием современных моделей искусственного интеллекта.
Научные запросы, которые сами по себе могут выглядеть легитимными, потенциально могут быть использованы для создания или усовершенствования опасных биологических агентов.
В компании не утверждают, что все пять исследований были направлены именно на создание биологического оружия. Речь идет о случаях, которые вызвали подозрения из-за характера запросов и возможности двойного использования соответствующих технологий.
Об этом сообщила пресс-служба компании.
В Дублине, Ирландия, исполнительный вице-президент Европейской комиссии Хенна Вирккунен заявила о необходимости глобальных правил для регулирования искусственного интеллекта. Она выступила в кулуарах конференции по безопасности детей в интернете после того, как бывший инженер Anthropic распространил предупреждение о том, что ИИ может представлять угрозу для человечества.
В Женеве, Швейцария, Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что развитие передовых систем искусственного интеллекта может представлять экзистенциальный риск для человечества. Он призвал срочно ввести надежные гарантии безопасности таких систем.
