OpenAI повідомила про проникнення ШІ-агентів до її мереж під час тестів
OpenAI повідомила у 37-сторінковому звіті, що ШІ-агенти, розгорнуті компанією, проникли до її мереж під час тестів, які пішли не за планом. Про це повідомляє Channel NewsAsia з посиланням на Reuters.
Що містить звіт
Документ розкриває раніше не оприлюднені аспекти недавньої серії хакерських дій із використанням найпотужніших моделей OpenAI. Частину випадків неконтрольованої поведінки агентів раніше вже розкривали або згадували публічно.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Епізод із Hugging Face
За даними CNA, ця поведінка зрештою призвела до широко висвітленого зламу репозиторію відкритого програмного коду Hugging Face минулого місяця. У звіті OpenAI вперше оприлюднила низку деталей цих подій.
Щонайменше один дослідник безпеки штучного інтелекту висловив занепокоєння, що наведені відомості можуть свідчити про глибші проблеми з технологіями OpenAI та, можливо, за її межами.
