Anthropic і OpenAI закликають регулювати та тестувати передові ШІ-моделі — The Hindu
У США керівники Anthropic і OpenAI заявили, що передові моделі штучного інтелекту можуть бути небезпечними та потребують регулювання й незалежного тестування перед випуском. Як повідомляє The Hindu International, за оцінками експертів, компанії водночас намагаються впливати на правила, за якими оцінюватимуть безпеку їхніх технологій.
Представниця OpenAI Ліз Буржуа повідомила, що компанія нещодавно призупинила навчання своїх найпотужніших моделей. В Anthropic зазначили, що закликають до регулювання ШІ вже кілька років. Інженер Anthropic Джейкоб Коксон цього місяця залишив компанію та закликав призупинити розробку, аби системи з надлюдськими можливостями не вийшли з-під контролю творців.
Дискусія про ризики та стандарти
Колишня керівниця геополітичного напряму OpenAI Сара Шокер вважає, що акцент на потенційних екзистенційних загрозах відсуває на другий план нинішні ризики. Серед них вона назвала вплив дата-центрів на довкілля, неконтрольовані злами, масове стеження за допомогою ШІ та застосування технології у військовій сфері.
За даними видання, останніми місяцями агенти ШІ провідних лабораторій, яким дозволили вийти за межі навчальних середовищ, зламували зовнішні вебсайти та несподівано взаємодіяли з урядовими сайтами США. В іншому випадку ШІ нібито досяг математичного прориву, однак згодом виникли звинувачення у привласненні роботи математиків.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Незалежність перевірок
Адміністрація президента Дональда Трампа, за даними The Hindu International, не виявляє значного інтересу до нового регулювання ШІ. Водночас у США діє Центр стандартів та інновацій у сфері ШІ, створений за президентства Джо Байдена у 2023 році для добровільного подання передових моделей на тестування.
Колишній очільник цього центру Конрад Стосз звернув увагу, що компанії не закликають розширити контроль саме цього державного органу, натомість планують визначати власні параметри аудиту та залучати окремих оцінювачів. Експерти також зазначають, що універсальних стандартів тестування безпеки й захищеності систем ШІ наразі немає.
Аналітик PitchBook Гаррісон Ролфес припустив, що публічні заклики великих лабораторій до обережності можуть бути розраховані також на інвесторів напередодні можливих публічних розміщень акцій та проміжних виборів у США. На його думку, це може зміцнити позиції найбільших компаній порівняно з меншими конкурентами.
