Розробники знайшли низку випадків можливого використання ШІ для розробки біологічної зброї
Американська компанія Anthropic повідомила про п’ять випадків, коли її модель штучного інтелекту Claude могли використовувати в дослідженнях, потенційно пов’язаних із розробкою біологічної зброї.
У компанії наголосили, що не знають точних планів учених, які використовували Claude, а також не розкривають назви відповідних дослідницьких організацій та країн.
За словами Anthropic, проблема полягає в тому, що одні й ті самі біологічні методи можуть застосовуватися як для створення ліків і вакцин, так і для розробки небезпечних патогенів.
«Ви не бачите людину, яка говорить, як у коміксі: "Гей, я хочу створити біологічну зброю і вбити всіх"», – заявив глава відділу аналізу загроз Anthropic Джейкоб Кляйн.
Один із виявлених випадків стався у травні 2026 року.
За даними Anthropic, один із учених попросив Claude допомогти підготувати заявку на фінансування досліджень вірусу чикунгунья.
Згідно з описом проєкту, дослідження передбачали генетичну модифікацію вірусу, вивчення особливостей його поширення та здатності уникати імунної відповіді організму.
При цьому роботи планували проводити у військовому дослідницькому інституті.
Anthropic зазначає, що такі випадки демонструють складність контролю за використанням сучасних моделей штучного інтелекту.
Наукові запити, які самі по собі можуть виглядати легітимними, потенційно можуть бути використані для створення або вдосконалення небезпечних біологічних агентів.
У компанії не стверджують, що всі п’ять досліджень були спрямовані саме на створення біологічної зброї. Йдеться про випадки, які викликали підозри через характер запитів і можливості подвійного використання відповідних технологій.
Про це повідомила пресслужба компанії.
У Дубліні, Ірландія, виконавча віцепрезидентка Європейської комісії Хенна Вірккунен заявила про необхідність глобальних правил для регулювання штучного інтелекту. Вона виступила на полях конференції з безпеки дітей в інтернеті після поширення попередження колишнього інженера Anthropic про те, що ШІ може становити загрозу для людства.
У Женеві, Швейцарія, Верховний комісар ООН з прав людини Фолькер Тюрк заявив, що розвиток передових систем штучного інтелекту може становити екзистенційний ризик для людства. Він закликав терміново запровадити надійні гарантії безпеки таких систем.
