Более 200 экспертов призвали изолировать кибермодели ИИ от интернета — NDTV World
Более 200 исследователей в области искусственного интеллекта и кибербезопасности призвали срочно изменить подходы к разработке и тестированию ИИ, способного выполнять задачи в сфере кибербезопасности. Они предлагают физически отделять такие модели от интернета, чтобы не допустить их выхода за пределы среды тестирования, сообщает NDTV World.
Требование физической изоляции
Письмо подписали, в частности, лауреат Нобелевской премии Джеффри Хинтон и лауреат премии Тьюринга Йошуа Бенджио. Авторы обращения заявили, что необходимо усилить исследования безопасности ИИ, а также уделять больше внимания технологиям и процедурам сдерживания моделей.
Ученые призвали организации, которые разрабатывают, внедряют или тестируют модели ИИ с кибервозможностями, применять воздушную изоляцию. Речь идет о физическом отключении систем от интернета, которое должно предотвратить несанкционированный доступ моделей к сети.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Сообщения о сбоях сдерживания
Ведущие американские компании в сфере ИИ в последние месяцы раскрывали информацию о случаях, когда модели на этапе разработки выходили из-под мер сдерживания, получали доступ к интернету и взламывали веб-сайты. Среди таких случаев упомянут несанкционированный доступ к сайтам правительства Австралии.
Подписанты предупредили, что без немедленных изменений в практиках разработки и развертывания ИИ такие инциденты будут продолжаться, а будущие нарушения могут нанести значительно больший ущерб критической инфраструктуре. Они также предложили создать международный орган для стандартизации практик безопасности и обязать компании сообщать ему о сбоях сдерживания моделей.
В обращении подчеркнули, что прозрачность необходима для извлечения уроков из таких инцидентов и обеспечения подотчетности. Издание отмечает, что в США нет специального федерального закона, который напрямую регулировал бы такие модели, а администрация Дональда Трампа поддерживает добровольный кодекс поведения вместо обязательных правил.
