Чарльз III закликав техлідерів контролювати ризики ШІ — Global News Canada
Король Чарльз III у Великій Британії закликав керівників технологічних компаній подбати, щоб штучний інтелект залишався під контролем і служив людям та планеті. Зустріч у Дамфріс-Гаусі в графстві Ершир, Шотландія, скликали для обговорення того, як ШІ може принести користь суспільству, повідомляє Global News Canada.
Зустріч у Шотландії
На заході були присутні генеральний директор Nvidia Дженсен Хуанг, голова Google DeepMind Деміс Гассабіс, фінансова директорка OpenAI Сара Фраєр і міністр штучного інтелекту Великої Британії Канішка Нараян. За заявою Букінгемського палацу, на зустрічі також очікували представника Anthropic.
У вступній промові король заявив, що розвиток ШІ — і за своєю суттю, і за темпами — однаково викликає зацікавлення та глибоке занепокоєння. Він наголосив на необхідності терміново розглянути екзистенційні небезпеки потрапляння таких технологій до неналежних рук і їхнього потенційно катастрофічного використання.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Безпека та міжнародна співпраця
Чарльз III запропонував учасникам визначити фундаментальні принципи, які мають спрямовувати розвиток ШІ. Він також порушив питання, як використовувати переваги технології, ставлячи безпеку в центр рішень, і як вибудувати міжнародну співпрацю та консенсус, не залишаючи жодну країну осторонь.
Захід відбувся у штаб-квартирі благодійної організації монарха The King’s Foundation. Генеральний директор Anthropic Даріо Амодеї у своєму есе припустив, що індустрії може знадобитися уповільнити темпи роботи над ШІ. Серед його пропозицій була координація дій компаній і держав щодо такого сповільнення.
Днем раніше OpenAI повідомила про шість випадків неочікуваної або тривожної поведінки своїх моделей. Серед них назвали ігнорування звичайних обмежень, завантаження файлу без дозволу користувача та вигадування даних. Перший секретар уряду Великої Британії Луїза Гей заявила, що влада має обов’язок зменшувати ризики ШІ для національної безпеки та суспільства.
