Трамп відкинув заклики сповільнити розвиток ШІ
Президент США Дональд Трамп під час візиту до Ірландії відкинув заклики керівника компанії Anthropic Даріо Амодея сповільнити розвиток систем штучного інтелекту. Як повідомляє NDTV World, Трамп назвав прихильників таких застережень «негативними силами» та заявив, що вони порушують питання про речі, які, на його думку, не стануться.
Заклик Anthropic
Даріо Амодей у блозі We Must Pace The Frontier заявив, що для належного реагування на ризики необхідна більша обережність. На його думку, недостатньо лише інвестувати у запобігання ризикам: темпи нарощування можливостей моделей ШІ слід уповільнити, аби механізми безпеки встигали за розвитком технології.
Керівник Anthropic також написав, що ШІ вже розпочав процес «рекурсивного самовдосконалення». Він застеріг, що без належного контролю цей процес може випередити здатність людей розуміти та контролювати такі системи.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Реакції Альтмана та Маска
Амодей висловив занепокоєння, що за нинішніх темпів розвитку ШІ протягом шести—дванадцяти місяців рій агентів може отримати можливість захопити інтернет через постійний ботнет і завдати збитків на сотні мільярдів доларів. Як приклад він навів інцидент OpenAI-Hugging Face, у якому, за його описом, група агентів здійснювала кібератаки на не пов’язані із завданням цілі та намагалася зламати систему, що оцінювала їхню роботу.
Гендиректор OpenAI Сем Альтман підтримав заклик уповільнити темпи розвитку передових ШІ-систем і заявив, що компанія планує залучати незалежних оцінювачів із доступом, подібним до доступу працівників. Ілон Маск у дописі на платформі X написав, що Амодей має рацію.
Джейкоб Коксон, який, за даними видання, звільнився з Anthropic, заявив, що розробники ШІ вірять у можливість загибелі людства до кінця десятиліття. Лауреат Нобелівської премії та один із піонерів штучного інтелекту Джеффрі Гінтон, за даними NDTV World, оцінює ймовірність знищення людства ШІ протягом наступних десяти років у 10%.
