Президент Microsoft Брэд Смит призвал к глобальному регулированию ИИ — Cyprus Mail
Президент Microsoft Брэд Смит призвал срочно ввести глобальное регулирование искусственного интеллекта, в том числе независимую проверку новых разработок. Он заявил, что к системам ИИ сейчас применяют меньше требований безопасности, чем к молоку или бытовой технике, сообщает Cyprus Mail.
Предложения по безопасности
В интервью BBC, опубликованном в понедельник, Смит сказал, что необходим набор международных правил безопасности. По его словам, в случае компрометации системы неконтролируемым ИИ-агентом пострадавшую сторону следует информировать, а также должен существовать механизм экстренной остановки.
Глава Microsoft также выступил за юридическую обязанность компаний готовить отчеты об инцидентах. Он подчеркнул, что правила безопасности и инспекции уже применяются к другим товарам, поэтому этот опыт следует использовать для регулирования искусственного интеллекта.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Подход Великобритании
Смит назвал Великобританию страной, имеющей хорошие предпосылки для лидерства в регулировании ИИ, в частности благодаря Институту безопасности ИИ, созданному при бывшем премьер-министре Риши Сунаке. В рамках добровольных договоренностей с разработчиками больших моделей институт получает к ним доступ до развертывания, чтобы оценивать возможности и риски.
Технологические компании, в том числе Anthropic и OpenAI, уже начали сообщать о неконтролируемом или нежелательном поведении ИИ-агентов. Министр ИИ Великобритании Канишка Нараян заявил Reuters, что страна рассмотрит регулирование передовых моделей, если действующий подход окажется недостаточным.
