Президент ПАР Рамафоса закликав БРІКС створити механізм оцінки ШІ
Президент Південно-Африканської Республіки Сиріл Рамафоса на саміті БРІКС у Нью-Делі, Індія, закликав створити міжнародний механізм незалежної наукової оцінки систем штучного інтелекту. Він наголосив, що технологічні можливості не мають випереджати здатність людей їх розуміти, наглядати за ними та контролювати, повідомляє Anadolu Agency.
Ризики потужних систем
За словами Рамафоси, моделі штучного інтелекту стають дедалі потужнішими та швидко змінюють майже всі сфери економічного й соціального життя. Водночас за ефективного та відповідального використання ШІ може допомогти скоротити нерівність, бідність і відставання у розвитку, а також трансформувати медицину, освіту, наукові відкриття та продуктивність сільського господарства.
Президент ПАР зазначив, що уряди мають зважати на застереження розробників найпотужніших систем ШІ. Серед ризиків він назвав складні кібероперації, сприяння створенню біологічної зброї, автономні дії систем, маніпуляції, масове стеження та порушення зайнятості. Рамафоса також вказав на можливість появи систем, можливості яких людям буде складно контролювати.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Аудити та звітування про інциденти
Рамафоса підтримав заклики генерального директора Anthropic Даріо Амодеї до посилення зовнішнього контролю за компаніями, що розробляють ШІ. На його думку, такі компанії мають підлягати формальним зовнішнім перевіркам, аудитам і державному нагляду. Він зазначив, що подібний контроль є звичною практикою в авіації, фармацевтиці, атомній енергетиці та фінансовому секторі.
Президент ПАР запропонував, щоб механізм оцінки ШІ в межах БРІКС ґрунтувався на принципах змістовного людського контролю та передбачав обов’язкове повідомлення про серйозні інциденти. Він також закликав посилювати запобіжники зі зростанням можливостей ШІ й інвестувати в суверенні можливості у сфері штучного інтелекту для економік, що розвиваються. Рамафоса підтримав ініціативу голови КНР Сі Цзіньпіна щодо створення екосистеми ШІ в БРІКС.
