США та Китай можуть відновити діалог щодо безпеки ШІ
США та Китай після дворічної перерви заявили про намір відновити офіційний діалог щодо безпеки штучного інтелекту. Переговори можуть відбутися у вересні, можливо, одночасно з очікуваною зустріччю президента США Дональда Трампа та голови КНР Сі Цзіньпіна, повідомляло Reuters.
Колумністка Bloomberg Opinion Кетрін Торбеке у колонці, передрукованій Taipei Times, зазначила, що метою діалогу не повинна бути всеосяжна угода чи спроба змусити Пекін прийняти американські правила. На її думку, сторонам потрібна взаємна поінформованість про ризики передових систем ШІ та заходи, яких вони вживають для їхнього контролю.
Побоювання Пекіна
Китай побоюється, що дискусія про безпеку ШІ може перетворитися на інструмент стримування технологічного розвитку КНР. Пов’язаний із державним телеканалом China Central Television акаунт Yuyuan Tantian попереджав про таку можливість напередодні переговорів.
У липні Сі Цзіньпін заявив, що світ має забезпечити постійний контроль людини над штучним інтелектом. Водночас він виступив проти надмірного розширення поняття національної безпеки та підходу, за якого безпека однієї країни ставиться вище за безпеку інших. Китай також пропонує створити Всесвітню організацію співробітництва у сфері ШІ та підтримує дві ініціативи в ООН.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Прозорість і оцінювання безпеки
За даними дослідницької групи Concordia AI, китайський підхід до безпеки ШІ змінюється: увага зміщується від контролю над тим, що системи можуть говорити, до ризиків, пов’язаних із тим, що вони можуть робити, зокрема в агентних застосунках. Кількість публікацій про безпеку передового ШІ в Китаї суттєво зросла: щомісячний показник між червнем попереднього року та квітнем збільшився приблизно на 60%.
Водночас лише п’ять із десяти провідних китайських розробників базових моделей оприлюднили результати оцінювання безпеки разом хоча б з одним релізом протягом останнього року, зазначає Concordia AI. Торбеке також звернула увагу на неформальні консультації за участю посадовців у приватній якості та недержавних експертів: із 2023 року китайські й західні групи провели близько десятка таких зустрічей.
Головний науковець OpenAI у вересні закликав до добровільного уповільнення розробки, доки не буде встановлено спільних критеріїв безпеки. Anthropic у червні також заявляла, що сповільнення розвитку ШІ могло б бути корисним, хоча визнала надзвичайну складність забезпечення будь-якої паузи.
