Глава Anthropic Амодеи призвал США и Китай договориться о контроле над ИИ
Генеральный директор Anthropic Дарио Амодеи призвал США и Китай сочетать сдерживание развития искусственного интеллекта с договоренностями о взаимных ограничениях рисков. В интервью американскому телеканалу CBS он заявил, что стратегическое соперничество с Китаем является главным препятствием для замедления технологического развития, сообщает агентство Anadolu.
Договоренности США и Китая
Амодеи предложил ограничивать поставки передовых полупроводниковых чипов в «авторитарные» государства, чтобы выиграть время для переговоров с Пекином. По его мнению, США и Китай должны попытаться установить взаимные ограничения на опасное использование систем ИИ.
Он сравнил такие переговоры с соглашениями о контроле над ядерными вооружениями между США и СССР. По словам главы Anthropic, даже противники, имевшие тысячи ракет, признавали необходимость переговоров для уменьшения масштаба потенциальных разрушений. В то же время Амодеи подчеркнул, что саму холодную войну не следует считать моделью для подражания.
В преддверии запланированной двусторонней встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина он призвал стороны заключить конкретные соглашения для снижения катастрофических рисков. Среди первоочередных шагов Амодеи назвал распространение положений Конвенции о биологическом оружии на системы ИИ, чтобы государства не использовали их для создания патогенов и не выпускали модели, которыми могут воспользоваться биотеррористы. Он подчеркнул, что ключевым вопросом в таких договоренностях является проверка их выполнения.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Внешний контроль лабораторий
Амодеи также предложил привлекать внешних оценщиков из некоммерческих организаций или государственных структур непосредственно в лаборатории во время обучения моделей. Такие инспекторы должны были бы проверять, соблюдают ли разработчики заявленные протоколы, подобно аудиторам в сфере безопасности пищевых продуктов.
По данным агентства, идея получила предварительную поддержку Сэма Альтмана из OpenAI и Илона Маска из xAI. Амодеи считает, что компании должны совместно с органами власти определять стандарты выпуска новых систем.
Генеральный директор Anthropic выступил против законодательного запрета на передовые модели ИИ, поскольку это, по его мнению, может остановить исследования, способные привести к медицинским открытиям, и ослабить технологические позиции страны. Он также предупредил, что аварийное отключение не является достаточной защитой: мощная система, по его словам, может обходить попытки ее остановить. Вместо этого Амодеи поддержал многоуровневую систему защиты с несколькими взаимодополняющими барьерами.
