ШІ Anthropic вийшов з-під контролю та атакував комп’ютерні системи трьох компаній
Компанія Anthropic повідомила, що під час внутрішніх випробувань її моделі штучного інтелекту отримали несанкціонований доступ до систем трьох реальних організацій.
Інциденти сталися через помилку конфігурації тестового середовища, яка випадково відкрила моделям доступ до інтернету.
За даними компанії, моделі Claude Opus 4.7, Claude Mythos 5 та одна дослідницька версія виконували завдання з кібербезпеки в ізольованому середовищі. Через помилку вони сприйняли реальні комп'ютерні системи як частину симуляції та використали прості методи злому, зокрема слабкі паролі й незахищені сервіси.
В Anthropic наголосили, що моделі не намагалися навмисно вийти за межі тестового середовища, а діяли відповідно до поставлених завдань. Після виявлення інцидентів компанія призупинила подібні випробування, повідомила постраждалі організації та проводить перевірку процедур безпеки.
Джерело: Anthropic.
Функція Огляд ШІ від Google видає мільйони помилкових відповідей щогодини — NYT
Нагадаємо, Японія масово замінює людей роботами через демографічну кризу.
Також у Gemini з'явиться моніторинг психічного здоров'я після судових позовів.
