Бессент готується до переговорів із Китаєм щодо ШІ — TIME
Міністр фінансів США Скотт Бессент готується цими вихідними зустрітися з віцепрем’єром Китаю Хе Ліфеном для обговорення штучного інтелекту. Як пише TIME, зустріч готується на тлі недовіри між США та Китаєм і швидкого розвитку передових ШІ-систем.
Президент США Дональд Трамп раніше назвав публічні попередження про неконтрольований розвиток штучного інтелекту містифікацією. Водночас державне китайське видання China Daily заявило, що провідні американські ШІ-компанії використовують заклики до сповільнення розвитку технологій, аби стримати поступ Китаю у цій сфері.
Технічні обміни з безпеки ШІ
Автор матеріалу TIME пропонує Вашингтону та Пекіну не намагатися відразу укласти масштабну угоду про обмеження розробки передових моделей. Натомість країнам варто розпочати технічні обміни щодо тестування систем на небезпечні можливості та поведінку.
Серед ризиків у статті названо здатність ШІ допомагати непідготовленим людям створювати біологічну зброю, а також уникати людського нагляду й контролю. Американські ШІ-компанії вивчають такі загрози вже кілька років, а відповідні вимоги щодо тестування безпеки почали з’являтися й у китайських технічних стандартах.
Більше актуальних новин читайте у Telegram-каналі UA.News.
На думку автора, обмін практиками тестування, моніторингу та застосування захисних механізмів може підвищити безпеку моделей в обох країнах. Така співпраця не вимагала б повної довіри чи однакового трактування ризиків, оскільки обидві сторони зацікавлені у збереженні контролю над потужними системами незалежно від місця їхньої розробки або застосування.
Протокол для кризових інцидентів
Ще одним можливим кроком автор називає створення міжурядового протоколу комунікації у разі інцидентів із ШІ. Як приклади наведено ситуації, коли американська модель виходить з-під контролю компанії та зламує мережі китайської компанії чи уряду КНР, або коли китайський безпілотник із ШІ атакує корабель ВМС США, а причину інциденту неможливо швидко встановити.
Для такого каналу потрібно визначити інциденти, про які необхідно повідомляти, відповідальних контактних осіб і порядок інформування про несанкціоновані дії без розкриття чутливих розвідувальних даних. Автор також пропонує передавати первинну інформацію письмово, а не лише телефоном, щоб зменшити ризик неправильного розуміння технічних деталей.
У TIME наголошують, що діалог про безпеку ШІ варто відокремити від суперечок щодо американського експортного контролю за передовими чипами та обладнанням для їх виробництва. Метою таких контактів має бути не припинення технологічного суперництва, а запобігання наслідкам, небажаним для обох країн.
