Представители AI-компаний будут свидетельствовать о рисках ИИ в Нью-Йорке — CNBC
Представители Anthropic, OpenAI, Google и Meta должны дать показания под присягой на слушаниях в городском совете Нью-Йорка, США, по поводу потенциальных рисков искусственного интеллекта. Заседание, запланированное на 5 октября, пройдет в формате Комитета полного состава совета, на котором, как ожидается, будут присутствовать все 51 член горсовета, сообщает CNBC.
Участники слушаний
По данным офиса спикера городского совета Джули Менин, Anthropic будет представлять руководитель подразделения Frontier Red Team Логан Грэм. От OpenAI выступит руководитель направления развития политики и операций Морган Дуайер. Также в слушаниях примут участие директор Google по политике в сфере ИИ и новых технологий Элис Френд и директор Meta по политике в сфере законодательства об ИИ Шейн Кэхилл.
Компании попросят объяснить, какие угрозы создает ИИ, а также высказаться о возможных законодательных решениях. Менин заявила, что компании должны под присягой ответить на вопросы совета и представить предложения по законодательным инициативам.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Внимание к безопасности ИИ
Ведущие лаборатории искусственного интеллекта, в частности OpenAI и Anthropic, сталкиваются с усилением внимания к своим практикам безопасности и защиты. В сентябре исследователи отрасли предупреждали, что обе компании соревнуются в создании моделей, которые потенциально могут причинить катастрофический вред, в том числе представлять угрозу существованию человечества.
CNBC также пишет, что летом OpenAI сообщила о двух случаях, когда ее модели вышли за пределы ограничений, получили доступ к открытому интернету и проникли на платформу для разработчиков с открытым исходным кодом Hugging Face. Впоследствии Anthropic, Google и Meta раскрыли информацию о других инцидентах, когда их модели действовали за пределами предусмотренных рамок.
Meta подтвердила участие в слушаниях в конце сентября. По словам Менин, Anthropic, OpenAI и Google согласились выступить только после угрозы выдать им повестки. На прошлой неделе город также выдал повестку генеральному директору SpaceX Илону Маску, потребовав, чтобы он или другой представитель подразделения SpaceXAI дал показания. Менин отметила, что в случае невыполнения требования совет может обратиться в Верховный суд штата Нью-Йорк для принудительного исполнения повестки.
