Anthropic предоставила шести исследователям METR доступ уровня сотрудников — TechCrunch
Компания Anthropic предоставила шести исследователям некоммерческой организации METR доступ к внутренним системам на уровне сотрудников компании. Они смогут независимо оценивать модели Anthropic, ее практики безопасности и подходы к управлению рисками, сообщает TechCrunch.
METR занимается тестированием передовых моделей искусственного интеллекта. Исследователи получили выданные Anthropic рабочие ноутбуки, офисное пространство и доступ к внутренним инструментам, примерно сопоставимый с доступом команд компании, оценивающих риски. Anthropic также поощряет своих сотрудников делиться с командой METR информацией так же, как с коллегами, работающими над рисками выравнивания ИИ.
Самостоятельная публикация оценок
METR будет публиковать собственные оценки рисков, инцидентов и практик Anthropic. Компания отказалась от права блокировать такие публикации, однако может требовать удаления информации только из узко определенных категорий. Среди них — данные клиентов, информация, защищенная адвокатской тайной, а также сведения об архитектуре моделей.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
В то же время METR сможет публично объяснять характер таких удалений и высказывать позицию относительно их обоснованности, не раскрывая отредактированную информацию. Anthropic сравнила эту модель с практикой банковского надзора, при которой регуляторы размещают постоянных инспекторов в крупнейших банках.
Три уровня внешней оценки
METR пока является единственным оценщиком на высшем уровне трехступенчатой системы, которую создает Anthropic. На нижнем уровне, в частности некоммерческая организация по биобезопасности SecureBio, проводит узкие проверки и нуждается в разрешении Anthropic для публикации результатов. Оценщики среднего уровня получают больше информации и могут публиковать результаты без согласования с компанией. Высший уровень предусматривает для METR доступ, близкий к доступу сотрудников Anthropic.
Объявление реализует идею генерального директора Anthropic Дарио Амодеи, которую он предложил в сентябрьском эссе: привлекать внешних оценщиков непосредственно в лаборатории ИИ. OpenAI также пообещала внедрить аналогичный подход. Anthropic, OpenAI, Google, Meta, Nvidia и xAI подписали соглашение Белого дома о проведении независимой оценки.
