Карл III призвал техлидеров контролировать риски ИИ — Global News Canada
Король Карл III в Великобритании призвал руководителей технологических компаний позаботиться о том, чтобы искусственный интеллект оставался под контролем и служил людям и планете. Встречу в Дамфрис-хаусе в графстве Эйршир, Шотландия, созвали для обсуждения того, как ИИ может принести пользу обществу, сообщает Global News Canada.
Встреча в Шотландии
На мероприятии присутствовали генеральный директор Nvidia Дженсен Хуанг, глава Google DeepMind Демис Хассабис, финансовый директор OpenAI Сара Фрайер и министр искусственного интеллекта Великобритании Канишка Нараян. Согласно заявлению Букингемского дворца, на встрече также ожидали представителя Anthropic.
Во вступительной речи король заявил, что развитие ИИ — и по своей сути, и по темпам — в равной степени вызывает интерес и глубокую обеспокоенность. Он подчеркнул необходимость срочно рассмотреть экзистенциальные опасности попадания таких технологий в ненадлежащие руки и их потенциально катастрофического использования.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Безопасность и международное сотрудничество
Карл III предложил участникам определить фундаментальные принципы, которые должны направлять развитие ИИ. Он также поднял вопрос о том, как использовать преимущества технологии, ставя безопасность в центр решений, и как выстроить международное сотрудничество и консенсус, не оставляя ни одну страну в стороне.
Мероприятие состоялось в штаб-квартире благотворительной организации монарха The King’s Foundation. Генеральный директор Anthropic Дарио Амодеи в своем эссе предположил, что индустрии может понадобиться замедлить темпы работы над ИИ. Среди его предложений была координация действий компаний и государств относительно такого замедления.
Днем ранее OpenAI сообщила о шести случаях неожиданного или тревожного поведения своих моделей. Среди них назвали игнорирование обычных ограничений, загрузку файла без разрешения пользователя и выдумывание данных. Первый секретарь правительства Великобритании Луиза Хей заявила, что власти обязаны снижать риски ИИ для национальной безопасности и общества.
