Anthropic заявила про спроби зловживати Claude для кібератак і біодосліджень
В ОАЕ The National повідомило, що компанія Anthropic оприлюднила звіт про кілька випадків спроб зловживати її моделями штучного інтелекту. За твердженням компанії, Claude намагалися використовувати для кібератак, операцій впливу, стеження, біологічних досліджень і створення зброї.
Спроби зловживання моделями
Anthropic заявила, що припинила всі згадані у звіті операції та враховує результати розслідувань для посилення захисту своїх сервісів. Компанія також повідомила, що блокує облікові записи, пов’язані з виявленою активністю, і впроваджує нові заходи для виявлення та запобігання зловживанням.
Один із прикладів стосувався запиту до Claude щодо допомоги з підготовкою грантової заявки на дослідження вірусу чикунгунья. Це вірус, який переносять комарі; він спричиняє виснажливі симптоми, зокрема сильний біль і гарячку, що можуть тривати тижнями або місяцями. У звіті також зазначено, що ліцензованих методів лікування вірусу немає.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Anthropic повідомила, що підозри викликала інституційна належність, пов’язана з грантовою заявкою. Компанія не уточнила, про яку саме установу йдеться. У звіті такі спроби описано як дії, що потенційно могли б сприяти розробці біологічної зброї.
Безпека та наукове застосування
У компанії наголосили, що прагнуть зберегти корисність своїх моделей для наукових досліджень. Anthropic прогнозує, що штучний інтелект може змінити біологічну науку та прискорити розробку нових методів лікування, водночас визнаючи складність встановлення захисних обмежень із належним урахуванням контексту.
Публікація звіту відбулася на тлі дискусій у США про ризики потужних моделей ШІ. Деякі члени Конгресу США вносили законопроєкти щодо зупинення або обмеження досліджень у сфері штучного інтелекту, однак жодна з таких пропозицій не стала законом.
