У Пакистані дослідник Anthropic Джейкоб Коксон заявив про звільнення через ризики ШІ
У Пакистані дослідник Anthropic Джейкоб Коксон заявив про звільнення, пояснивши це занепокоєнням через перегони лабораторій штучного інтелекту зі створення систем, які, на його думку, можуть становити загрозу людському життю протягом кількох років. Про це повідомляє Dawn.
За даними видання, про відхід Коксона першою повідомила Wall Street Journal. Газета назвала цей випадок одним із перших прикладів звільнення співробітника Anthropic через побоювання щодо безпеки ШІ.
Критика розробників ШІ
У дописах у соцмережі X Коксон повідомив, що протягом останніх трьох років займався дослідженнями попереднього навчання моделей в OpenAI та Anthropic. Він заявив, що обидві компанії діють безвідповідально, оскільки, за його оцінкою, змагаються за створення самовдосконалюваного надінтелекту.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Дослідник закликав не недооцінювати можливості цієї технології. За його словами, такі системи незабаром можуть перевершити людину, зламувати будь-що, швидко змінювати різні галузі та здобувати реальну владу й ресурси. Коксон також стверджує, що прогрес у цих напрямах не сповільнюється.
Заклик до обережності
Коксон заявив, що деякі розробники та керівники у сфері ШІ приватно побоюються: технологія до кінця десятиліття може знищити людство. На його думку, в OpenAI не всі усвідомили цивілізаційні ризики, тоді як в Anthropic їх розуміють, але прагнуть випередити інших розробників.
Він закликав працівників лабораторій переосмислити темпи розробки й не запускати навчання з підкріпленням для надінтелектуальних систем без ретельного розуміння їхньої природи. Як зазначає Dawn, Коксон також був серед понад тисячі дослідників ШІ, які підписали заяву із закликом до глобальної координації урядів, щоб за потреби сповільнити розвиток моделей, здатних самостійно вдосконалюватися.
