Стартапи розробляють інструменти для перевірки угод США і Китаю щодо ШІ — South China Morning Post
Напередодні запланованої у Вашингтоні, США, зустрічі президента США Дональда Трампа та президента Китаю Сі Цзіньпіна дослідники й стартапи розробляють технології, які можуть допомогти перевіряти виконання потенційних домовленостей про стримування розвитку штучного інтелекту. Такі інструменти покликані дозволити урядам і третім сторонам перевіряти окремі відомості про навчання та використання ШІ-моделей, можливо без прямого доступу до самих моделей або обчислювальної інфраструктури, повідомляє South China Morning Post.
Що пропонують перевіряти
Співзасновник британської консалтингової компанії Amodo Design Том Мілтон назвав два ключові питання для можливої міжнародної угоди між Вашингтоном і Пекіном. Йдеться про перевірку того, чи навчає дата-центр нову модель, чи лише обслуговує вже створену, а також про підтвердження, що запущена модель відповідає заявленій.
За словами Мілтона, обслуговування вже створеної моделі, або інференс, відрізняється від навчання нової моделі. Уряди також можуть прагнути перевіряти, чи дата-центр іншої країни використовує модель, яку вважають безпечною, а не потенційно небезпечну систему.
Автори відкритого листа від представників 20 країн закликали створити міжнародний орган управління, який міг би здійснювати верифікацію ШІ. Водночас у листі не уточнили, яким саме способом це слід робити.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Тестування технологій
Один із запропонованих методів називають повторним обчисленням. Він передбачає перевірку результату ШІ через запуск такого самого розрахунку на іншій системі з однаковими вхідними даними та налаштуваннями. За оцінкою Machine Intelligence Research Institute, обладнання дата-центрів такими засобами може коштувати лише невелику частку початкових витрат об'єкта, а витрати на обчислення можна знизити завдяки перевірці випадкової вибірки активності.
Lucid Computing на початку місяця розпочала 18-місячне тестування свого рішення на кластері з 16 чипів Nvidia H100 у Швеції, наданому державним дослідницьким інститутом RISE. Amodo Design веде переговори щодо масштабування випробувань до кластера зі 128 графічних процесорів. Мілтон визнав, що розробки ще потрібно перевірити в масштабі передових дата-центрів, де можуть бути встановлені понад мільйон графічних процесорів.
Криптографічний підхід
Ізраїльський стартап Attestable, який минулого місяця залучив 20 млн доларів посівного фінансування, застосовує докази з нульовим розголошенням. Компанія пропонує використовувати цю криптографічну технологію для перевірки того, що відповідь на запит надала саме визначена ШІ-модель, без розкриття відомостей про базову модель або дані.
Lucid Computing, Amodo Design і Singapore AI Safety Hub заявили про намір оприлюднювати результати своїх досліджень. За оцінкою керівника політики й стратегії Lucid Коннора Данлопа, у світі над технологіями верифікації ШІ працюють приблизно 50 людей.
