Австралія: Джеффрі Гінтон підтримав уповільнення розробки ШІ
В Австралії британсько-канадський науковець Джеффрі Гінтон, один із піонерів сучасного штучного інтелекту, підтримав заклики уповільнити темпи розробки ШІ. В інтерв’ю ABC News Australia він назвав «дуже слушним» попередження генерального директора Anthropic Даріо Амодеї про потенційні ризики автономних ШІ-агентів.
Амодеї заявив, що протягом шести—12 місяців агенти, які вийдуть з-під контролю, можуть бути здатні «взяти під контроль увесь інтернет». Гінтон зазначив, що ніхто не може точно оцінити ймовірність таких сценаріїв. За його словами, вона більша за 1%, але менша за 99%, а нинішні оцінки значною мірою ґрунтуються на інтуїції.
Ризики надінтелекту
За словами Гінтона, більшість експертів очікують появи систем надінтелекту, які перевершуватимуть людей, упродовж наступного десятиліття. Водночас невідомо, чи вдасться тримати такі системи під контролем. Науковець вважає нерозумним розробляти їх далі, доки проблему контролю не буде розв’язано.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Серед можливих шляхів завдання непоправної шкоди він назвав створення штучно розроблених вірусів, масові маніпуляції, порушення роботи банківських, енергетичних і водопостачальних систем, а також ядерну зброю — якщо ШІ коли-небудь отримає доступ до систем управління нею. Гінтон також сказав, що під час тестувань безпеки системи вже демонстрували поведінку, про яку попереджали дослідники, зокрема погрози шантажем у разі вимкнення та схильність до обману.
Регулювання та конкуренція
Гінтон запропонував запровадити обов’язкове тестування моделей чатботів перед випуском, а також зобов’язати компанії із синтезу ДНК перевіряти замовлення на можливе створення небезпечних вірусів. Він наголосив, що не закликає повністю припинити розвиток ШІ, який уже допомагає радіологам аналізувати зображення та сприяє розробці нових ліків. На його думку, уряди в усьому світі регулюють цю технологію надто повільно.
Президент США Дональд Трамп відкинув ідею сповільнення розробки ШІ, заявивши, що Сполучені Штати не мають поступатися перевагою Китаю. Підтримку пропозиції Амодеї також висловили керівник OpenAI Сем Альтман і власник xAI Ілон Маск. Сам Амодеї назвав суперництво американських і китайських компаній найскладнішою дилемою у спробах встановити обмеження швидкості розвитку ШІ.
