США и Китай могут возобновить диалог по безопасности ИИ
США и Китай после двухлетнего перерыва заявили о намерении возобновить официальный диалог по безопасности искусственного интеллекта. Переговоры могут состояться в сентябре, возможно, одновременно с ожидаемой встречей президента США Дональда Трампа и председателя КНР Си Цзиньпина, сообщало Reuters.
Колумнистка Bloomberg Opinion Кэтрин Торбеке в колонке, перепечатанной Taipei Times, отметила, что целью диалога не должно быть всеобъемлющее соглашение или попытка заставить Пекин принять американские правила. По ее мнению, сторонам необходима взаимная осведомленность о рисках передовых систем ИИ и мерах, которые они принимают для их контроля.
Опасения Пекина
Китай опасается, что дискуссия о безопасности ИИ может превратиться в инструмент сдерживания технологического развития КНР. Связанный с государственным телеканалом China Central Television аккаунт Yuyuan Tantian предупреждал о такой возможности накануне переговоров.
В июле Си Цзиньпин заявил, что мир должен обеспечить постоянный контроль человека над искусственным интеллектом. В то же время он выступил против чрезмерного расширения понятия национальной безопасности и подхода, при котором безопасность одной страны ставится выше безопасности других. Китай также предлагает создать Всемирную организацию сотрудничества в сфере ИИ и поддерживает две инициативы в ООН.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Прозрачность и оценка безопасности
По данным исследовательской группы Concordia AI, китайский подход к безопасности ИИ меняется: внимание смещается от контроля над тем, что системы могут говорить, к рискам, связанным с тем, что они могут делать, в частности в агентных приложениях. Количество публикаций о безопасности передового ИИ в Китае существенно выросло: ежемесячный показатель увеличился примерно на 60% в период между июнем предыдущего года и апрелем.
В то же время только пять из десяти ведущих китайских разработчиков базовых моделей опубликовали результаты оценки безопасности вместе хотя бы с одним релизом в течение последнего года, отмечает Concordia AI. Торбеке также обратила внимание на неформальные консультации с участием чиновников в частном качестве и негосударственных экспертов: с 2023 года китайские и западные группы провели около десятка таких встреч.
Главный научный сотрудник OpenAI в сентябре призвал к добровольному замедлению разработки, пока не будут установлены общие критерии безопасности. Anthropic в июне также заявляла, что замедление развития ИИ могло бы быть полезным, хотя признала чрезвычайную сложность обеспечения какой-либо паузы.
