Недоверие США и Китая мешает сотрудничеству в сфере безопасности ИИ
Взаимное недоверие между США и Китаем может быть одним из главных рисков развития искусственного интеллекта, поскольку соперничество двух государств препятствует координации в сфере безопасности технологий. Об этом сообщает CBS News со ссылкой на исследователей и специалистов по регулированию ИИ.
Эксперты предупреждают о рисках появления суперинтеллекта — теоретической системы ИИ, более умной, чем любой человек. По их опасениям, такая система потенциально может рассматривать людей как конкурентов за необходимые ресурсы, что будет создавать угрозу для выживания человечества.
Конкуренция вместо координации
Руководители американских компаний OpenAI и Anthropic призвали замедлить развитие передовых систем ИИ. В то же время китайские лидеры также высказывались о необходимости контроля над технологией. В июне председатель КНР Си Цзиньпин предупреждал об опасности потери контроля над ИИ, а в июле заявил, что страны должны сотрудничать, чтобы технология всегда оставалась под контролем человека.
Исследовательница Фонда Карнеги за международный мир Лея Ван отметила, что китайские компании в целом разделяют всё более распространённое мнение о необходимости регулирования ИИ. Она назвала Шанхайскую лабораторию искусственного интеллекта авторитетным учреждением, работающим над безопасностью этой технологии.
По словам Ван, для американских лидеров в вопросах ИИ, связанных с Китаем, первоочередное значение имеет технологическая конкуренция. Китайские власти, в свою очередь, рассматривают призывы замедлить разработки как попытку США сохранить технологическое доминирование. МИД КНР заявил, что нарративы об угрозе лишь мешают процессу глобального управления в сфере ИИ.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Предложения для диалога
Генеральный директор Nvidia Дженсен Хуанг ранее заявлял, что американские и китайские исследователи должны поддерживать контакты. По его мнению, двусторонней координации между представителями отрасли не хватает из-за отношения к Китаю как к противнику.
Кван Йи Нг, руководительница направления международного управления пекинской консалтинговой компании Concordia AI, считает, что масштабное международное соглашение или скоординированное замедление разработок могут быть не лучшим форматом взаимодействия с китайскими компаниями и правительством. Она предложила начать с обмена практиками кибербезопасности, координации противодействия использованию ИИ террористическими группами и технических контактов между чиновниками более низкого уровня.
Исследователь Фонда Карнеги Мэтт Шиган предложил подход «параллельной безопасности ИИ»: США и Китай могли бы развивать технологии отдельными путями, одновременно снижая риски, которые каждая сторона считает важными для собственной национальной безопасности.
Китайская сторона после майской встречи Дональда Трампа и Си Цзиньпина в Пекине заявляла, что лидеры договорились о межправительственном диалоге по ИИ. Трамп подтвердил, что обсуждал с Си идею мер предосторожности для развития технологии. Следующая встреча президентов в Вашингтоне запланирована на 24 сентября, и безопасность ИИ, как ожидается, будет среди тем переговоров.
