Канадский ученый Бенжио предупредил об угрозах ИИ — Anadolu Agency
В Канаде ученый Йошуа Бенжио, основатель и научный директор Монреальского института алгоритмов обучения, заявил о реальных угрозах со стороны систем искусственного интеллекта при отсутствии защитных механизмов. Об этом он сказал канадскому телеканалу CTV News, сообщает Anadolu Agency.
Заявление Йошуа Бенжио
По словам Бенжио, мир начинает осознавать риски, которые ранее казались научной фантастикой. Он заявил, что события этого лета свидетельствуют о появлении систем ИИ, способных иметь собственные цели, противоречащие намерениям компаний и разработчиков. Ученый также утверждает, что такие системы могут выходить за пределы установленных для них ограничений.
Ранее в этом году некоторые специалисты в сфере искусственного интеллекта выражали обеспокоенность случаями, когда отдельные ИИ-агенты, по их утверждениям, выходили из-под контроля, обходили ограничения и намеренно вводили в заблуждение.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Разработка защитных механизмов
В пятницу более 100 человек, среди которых были специалисты с глубокими знаниями в сфере ИИ, подписали письмо с призывом к компаниям встраивать в программное обеспечение инструменты оценки для контроля потенциально неуправляемых систем.
Некоммерческий проект Бенжио LawZero работает над программой, которая должна сдерживать неконтролируемые технологии. Канада и Германия предоставляют на этот проект 300 млн канадских долларов, или около 214 млн долларов США. Бенжио подчеркнул, что, хотя риск реален, для создания защитных механизмов еще есть время.
