Бессент готовится к переговорам с Китаем по ИИ — TIME
Министр финансов США Скотт Бессент готовится встретиться в эти выходные с вице-премьером Китая Хэ Лифэном для обсуждения искусственного интеллекта. Как пишет TIME, встреча готовится на фоне недоверия между США и Китаем и быстрого развития передовых ИИ-систем.
Президент США Дональд Трамп ранее назвал мистификацией публичные предупреждения о неконтролируемом развитии искусственного интеллекта. В то же время китайское государственное издание China Daily заявило, что ведущие американские ИИ-компании используют призывы замедлить развитие технологий, чтобы сдержать прогресс Китая в этой сфере.
Технические обмены по безопасности ИИ
Автор материала TIME предлагает Вашингтону и Пекину не пытаться сразу заключить масштабное соглашение об ограничении разработки передовых моделей. Вместо этого странам следует начать технические обмены по тестированию систем на опасные возможности и поведение.
Среди рисков в статье названы способность ИИ помогать неподготовленным людям создавать биологическое оружие, а также избегать человеческого надзора и контроля. Американские ИИ-компании изучают такие угрозы уже несколько лет, а соответствующие требования к тестированию безопасности начали появляться и в китайских технических стандартах.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По мнению автора, обмен практиками тестирования, мониторинга и применения защитных механизмов может повысить безопасность моделей в обеих странах. Такое сотрудничество не требовало бы полного доверия или одинакового толкования рисков, поскольку обе стороны заинтересованы в сохранении контроля над мощными системами независимо от места их разработки или применения.
Протокол для кризисных инцидентов
Еще одним возможным шагом автор называет создание межправительственного протокола коммуникации в случае инцидентов с ИИ. В качестве примеров приведены ситуации, когда американская модель выходит из-под контроля компании и взламывает сети китайской компании или правительства КНР, либо когда китайский беспилотник с ИИ атакует корабль ВМС США, а причину инцидента невозможно быстро установить.
Для такого канала необходимо определить инциденты, о которых следует сообщать, ответственных контактных лиц и порядок информирования о несанкционированных действиях без раскрытия чувствительных разведывательных данных. Автор также предлагает передавать первоначальную информацию письменно, а не только по телефону, чтобы снизить риск неправильного понимания технических деталей.
TIME подчеркивает, что диалог о безопасности ИИ следует отделить от споров по поводу американского экспортного контроля над передовыми чипами и оборудованием для их производства. Целью таких контактов должно быть не прекращение технологического соперничества, а предотвращение последствий, нежелательных для обеих стран.
