В США OpenAI, Anthropic и Google DeepMind несколько недель обсуждают безопасность ИИ
В США OpenAI в течение нескольких недель проводит переговоры с Anthropic и Google DeepMind по вопросам безопасности искусственного интеллекта. Об этом журналистам сообщил руководитель OpenAI по глобальной политике Крис Лехейн, который, по данным TechCrunch, находится в Вашингтоне и работает с американскими законодателями над вопросами катастрофических рисков, связанных с ИИ.
Переговоры о безопасности
Заявление Лехейна прозвучало после эссе генерального директора Anthropic Дарио Амодеи, опубликованного в субботу. В нем он призвал представителей индустрии совместно работать над замедлением развития передовых систем ИИ, чтобы избежать катастрофических рисков.
Призыв Амодеи поддержали руководитель OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск. Альтман также заявил, что OpenAI вместе с Anthropic будет привлекать независимых сторонних оценщиков для мониторинга безопасности в компании.
Ранее Альтман в интервью Fortune намекнул, что в частном порядке обсуждал эти вопросы с другими лидерами отрасли. The Information на этой неделе сообщило, что OpenAI, Anthropic и Google работают над созданием органа стандартизации для индустрии ИИ. По данным издания, Альтман сказал сотрудникам, что такой орган должен быть создан без поддержки правительства США.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Регулирование и конкуренция
Некоторые представители индустрии, в частности Альтман, отмечали, что координация между конкурентами может создать риск нарушения антимонопольного законодательства, если ее признают ограничивающей конкуренцию. Амодеи предлагал ввести узкое правительственное исключение для такого взаимодействия в сфере безопасности, однако Лехейн, по данным TechCrunch, заявил, что компаниям оно не нужно.
В июле Хассабис призвал США создать новый орган стандартизации, который мог бы проверять самые передовые модели ИИ и координировать замедление их развития в случае роста опасностей.
На той же встрече во вторник Лехейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act. Оно предусматривает, что ведущие лаборатории должны допускать независимые верификационные организации для проверки безопасности разработки моделей. Президент Дональд Трамп ранее называл опасения по поводу безопасности ИИ мистификацией и выступал против усиления регулирования, заявляя, что любое замедление даст Китаю преимущество в технологической конкуренции.
