Ілон Маск підтримав заклик Anthropic уповільнити розвиток ШІ — MarketWatch
Керівник SpaceX Ілон Маск підтримав заклик генерального директора Anthropic Даріо Амодея сповільнити розробку нових моделей штучного інтелекту через потенційні ризики для кібербезпеки. Схожу позицію висловив і гендиректор OpenAI Сем Альтман, повідомляє MarketWatch.
Побоювання щодо автономних агентів
У дописі в блозі Амодей заявив, що прискорення розвитку можливостей ШІ може створити ризик появи великої кількості автономних ШІ-агентів, здатних діяти спільно, вийти з-під контролю та здійснювати масштабні кібератаки. За його оцінкою, протягом шести—дванадцяти місяців така група агентів потенційно могла б отримати можливість захопити весь інтернет.
Очільник Anthropic попередив, що подібний сценарій може завдати збитків на сотні мільярдів доларів. Він закликав розвивати штучний інтелект у збалансованому темпі, поєднуючи безпеку технології з її потенційними перевагами та враховуючи геополітичні дилеми.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Незалежна оцінка безпеки
Амодей також запропонував залучати незалежних оцінювачів ШІ з доступом, подібним до доступу працівників компаній, щоб перевіряти відповідність моделей правилам безпеки. Anthropic, за його словами, односторонньо бере на себе зобов’язання запровадити такий механізм і посилити роботу над безпекою та узгодженням ШІ.
Сем Альтман підтримав ідею незалежного оцінювання та заявив, що OpenAI зробить те саме. Ілон Маск коротко погодився з позицією Амодея. Компанії Anthropic, OpenAI та SpaceX не надали MarketWatch оперативних коментарів.
Заяви пролунали після допису колишнього співробітника Anthropic Джейкоба Коксона, який повідомив, що залишив компанію, оскільки, на його думку, розробники ШІ надто зосереджені на конкуренції та недостатньо враховують питання безпеки. Обговорення відбувається напередодні очікуваного IPO Anthropic, яке, за повідомленнями, може оцінити компанію приблизно у 2 трлн доларів.
