В Anthropic оцінили ризик загибелі людства від ШІ у понад 10% — The Verge
Керівник однієї з команд безпеки Anthropic Еван Губінгер заявив, що особисто оцінює імовірність того, що штучний інтелект може призвести до загибелі всіх людей протягом наступного десятиліття, як вищу за 10%. Про це повідомляє The Verge.
Звільнення дослідника
Заява Губінгера пролунала після того, як дослідник Джейкоб Коксон написав у X про своє звільнення з Anthropic. За словами Коксона, він залишив компанію через те, що вважав її підхід до безпеки недостатньо суворим.
Коксон, який раніше навчав системи ШІ для OpenAI, звинуватив Anthropic і OpenAI в перегонах за створенням самовдосконалюваного надінтелекту. Він заявив, що компанії «грають нашими життями», а люди, які створюють ШІ, щиро допускають можливість загибелі людства до кінця десятиліття.
Більше актуальних новин читайте у Telegram-каналі UA.News.
У відповіді Губінгер погодився з характеристикою цих побоювань. Він також зазначив, що розвиток самовдосконалюваного ШІ відбувається швидше, ніж очікували.
Ризики самовдосконалення
У галузі давно обговорюють потенційні загрози систем ШІ, здатних самостійно вдосконалюватися. Побоювання пов’язані з тим, що такий процес може вийти з-під контролю людей у циклі, який називають рекурсивним самовдосконаленням.
Як зазначає The Verge, таких систем поки не створено, однак компанії активно прагнуть їх розробити, а значну частину сучасного програмного коду вже пишуть за допомогою ШІ. За словами Губінгера, Anthropic наразі не має плану, який би забезпечив безпечність передових систем ШІ та їхню узгодженість із людськими цінностями, і компанія не має чітких ознак руху до створення такого плану.
