Глава Anthropic Амодеї закликав США та Китай домовлятися про контроль над ШІ
Генеральний директор Anthropic Даріо Амодеї закликав США та Китай поєднати стримування розвитку штучного інтелекту з домовленостями про взаємні обмеження ризиків. В інтерв’ю американському телеканалу CBS він заявив, що стратегічне суперництво з Китаєм є головною перешкодою для уповільнення технологічного розвитку, повідомляє Anadolu Agency.
Домовленості США та Китаю
Амодеї запропонував обмежувати постачання передових напівпровідникових чипів до «авторитарних» держав, аби виграти час для переговорів із Пекіном. На його думку, США та Китай мають спробувати встановити взаємні обмеження щодо небезпечного використання систем ШІ.
Він порівняв такі переговори з угодами про контроль над ядерними озброєннями між США та СРСР. За словами керівника Anthropic, навіть противники, які мали тисячі ракет, визнавали необхідність переговорів для зменшення масштабу потенційних руйнувань. Водночас Амодеї наголосив, що саму холодну війну не варто вважати моделлю для наслідування.
Напередодні запланованої двосторонньої зустрічі президента США Дональда Трампа та голови КНР Сі Цзіньпіна він закликав сторони укласти конкретні угоди для зниження катастрофічних ризиків. Серед першочергових кроків Амодеї назвав поширення положень Конвенції про біологічну зброю на системи ШІ, щоб держави не використовували їх для створення патогенів і не випускали моделі, якими можуть скористатися біотерористи. Він підкреслив, що ключовим питанням у таких домовленостях є перевірка їхнього виконання.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Зовнішній контроль лабораторій
Амодеї також запропонував залучати зовнішніх оцінювачів із некомерційних організацій або державних структур безпосередньо до лабораторій під час навчання моделей. Такі інспектори мали б перевіряти, чи дотримуються розробники заявлених протоколів, подібно до аудиторів у сфері харчової безпеки.
За даними агентства, ідея отримала попередню підтримку Сема Альтмана з OpenAI та Ілона Маска з xAI. Амодеї вважає, що компанії мають спільно з органами влади визначати стандарти випуску нових систем.
Гендиректор Anthropic виступив проти законодавчої заборони на передові моделі ШІ, оскільки це, на його думку, може зупинити дослідження, здатні привести до медичних відкриттів, і послабити технологічні позиції країни. Він також застеріг, що аварійне вимкнення не є достатнім захистом: потужна система, за його словами, може обходити спроби її зупинити. Натомість Амодеї підтримав багаторівневу систему захисту з кількома взаємодоповнювальними бар’єрами.
