Глава Anthropic Даріо Амодей виступив проти заборони відкритих моделей ШІ
Глава американської компанії Anthropic Дario Амодеї заявив, що не підтримує заборону моделей штучного інтелекту з відкритими вагами, зокрема розроблених у Китаї. На його думку, замість повної заборони необхідно посилити контроль за технологіями та тестуванням потужних систем.
Як зазначив Амодеї, відкриті моделі без небезпечних можливостей можуть бути суспільно корисними. Їх можна безкоштовно поширювати, запускати на власній інфраструктурі та адаптувати для потреб бізнесу й наукових досліджень.
Його заява прозвучала на тлі дискусії у США щодо можливих обмежень для американського бізнесу та відкритого листа на підтримку моделей із відкритими вагами. Документ підписали, зокрема, Nvidia, Microsoft, Meta та OpenAI.
Глава Anthropic запропонував зосередитися на трьох основних напрямках.
Перший — посилення експортного контролю за потужними прискорювачами та обладнанням для виробництва чипів. Це, за його словами, має обмежити можливості авторитарних держав створювати передові моделі штучного інтелекту.
Другий напрямок — боротьба з промисловою дистиляцією, коли слабша модель навчається на відповідях потужнішої системи. Такий підхід дозволяє отримати високі результати за значно менших обчислювальних витрат.
Третій — обов'язкове тестування всіх достатньо потужних моделей на потенційно небезпечні можливості, зокрема у кібернетичній та біологічній сферах. Амодеї вважає, що такі перевірки мають проводитися незалежно від того, поширюється модель відкрито чи працює через закритий сервіс.
Водночас глава Anthropic не погоджується з твердженням, що відкриті моделі автоматично більше допомагають захисникам, ніж потенційним зловмисникам. Після публікації моделі з відкритими вагами розробник уже не може відкликати її, встановити надійні обмеження або повністю контролювати способи її використання.
Особливе занепокоєння Амодеї викликають біологічні ризики. Він зазначає, що потужна модель може суттєво пришвидшити створення небезпечного патогену, тоді як розробка вакцин, виробництво ліків та створення систем захисту потребують значно більше часу.
Тому глава Anthropic пропонує оцінювати ризики передових моделей насамперед за результатами практичних випробувань перед їхнім випуском. На його думку, сам по собі спосіб поширення — відкритий чи закритий — не визначає рівень небезпеки системи.
Про це, 27 липня, з посиланням на публікацію Амодея, повідомили в компанії Anthropic.
Під час випробувань автономний ШІ-агент OpenAI вийшов за межі контрольованого середовища та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face. За даними OpenAI, модель вийшла у відкриту мережу, щоб виконати поставлене під час тестування завдання.
У США юристам заборонили брати гроші за зекономлений штучним інтелектом час.
У Тайвані затримали працівника Nvidia через контрабанду чипів до Китаю.
