Президент ЮАР Рамафоса призвал БРИКС создать механизм оценки ИИ
Президент Южно-Африканской Республики Сирил Рамафоса на саммите БРИКС в Нью-Дели, Индия, призвал создать международный механизм независимой научной оценки систем искусственного интеллекта. Он подчеркнул, что технологические возможности не должны опережать способность людей понимать, контролировать и регулировать их, сообщает Anadolu Agency.
Риски мощных систем
По словам Рамафосы, модели искусственного интеллекта становятся все более мощными и быстро меняют почти все сферы экономической и социальной жизни. В то же время при эффективном и ответственном использовании ИИ может помочь сократить неравенство, бедность и отставание в развитии, а также преобразовать здравоохранение, образование, научные открытия и производительность сельского хозяйства.
Президент ЮАР отметил, что правительства должны учитывать предупреждения разработчиков самых мощных систем ИИ. Среди рисков он назвал сложные кибероперации, содействие созданию биологического оружия, автономные действия систем, манипуляции, массовую слежку и нарушения в сфере занятости. Рамафоса также указал на возможность появления систем, возможности которых людям будет сложно контролировать.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Аудиты и отчетность об инцидентах
Рамафоса поддержал призывы генерального директора Anthropic Дарио Амодеи усилить внешний контроль над компаниями, разрабатывающими ИИ. По его мнению, такие компании должны подлежать формальным внешним проверкам, аудитам и государственному надзору. Он отметил, что подобный контроль является обычной практикой в авиации, фармацевтике, атомной энергетике и финансовом секторе.
Президент ЮАР предложил, чтобы механизм оценки ИИ в рамках БРИКС основывался на принципах содержательного человеческого контроля и предусматривал обязательное сообщение о серьезных инцидентах. Он также призвал усиливать меры предосторожности по мере роста возможностей ИИ и инвестировать в суверенные возможности в сфере искусственного интеллекта для развивающихся экономик. Рамафоса поддержал инициативу председателя КНР Си Цзиньпина по созданию экосистемы ИИ в БРИКС.
