Фінські експерти розійшлися в оцінках ризику ШІ — YLE News
У Фінляндії фахівці з інформатики по-різному оцінюють заяви керівників технологічних компаній про ризики штучного інтелекту для людства. Генеральний директор Anthropic Даріо Амодеї закликав сповільнити темпи розробки ШІ, запровадити незалежний нагляд за моделями та глобальне регулювання, повідомляє YLE News.
Амодеї посилався на прогнози, за якими ймовірність того, що ШІ може знищити людство протягом наступного десятиліття, може перевищувати 10%. Колишній провідний дослідник Anthropic Джейкоб Коксон, який залишив компанію, також заявив у X, що люди, які створюють ШІ, всерйоз допускають такий сценарій у найближчі роки.
Подібні застереження щодо потреби стримувати розвиток технології висловлював керівник OpenAI Сем Альтман. Очільник SpaceX Ілон Маск також заявляв, що погоджується з Амодеї щодо обмеження розвитку ШІ. Водночас Anthropic минулого тижня повідомила, що виявила й зупинила осіб, які намагалися використати її технологію, зокрема для розробки біологічної зброї та кібершпигунства.
Ризики пов’язують із діями людей
Професорка інформатики Гельсінського університету Лаура Руотсалайнен назвала розмови про ШІ, здатний знищити людство, абсурдними. На її думку, системи, що потенційно можуть завдати такого масштабу шкоди, ізолюють від мереж через кіберзагрози, а передавання машинам рішень про знищення не є реалістичним сценарієм.
Більше актуальних новин читайте у Telegram-каналі UA.News.
На думку експертів, які поділяють цю позицію, сценарії з наукової фантастики можуть відволікати увагу від уже наявних загроз: впливу на вибори, шахрайства з дипфейками, зламів і проблем авторського права. Професор машинного навчання Університету Аалто Арно Солін визнав обґрунтованість занепокоєння, але вважає, що основні ризики пов’язані з тим, як люди застосовуватимуть дедалі потужніші моделі.
Регулювання та конкуренція
Професор інформатики Тамперецького університету Пекка Абрагамссон серйозніше ставиться до ризиків у найближчому майбутньому. Він згадав можливу сингулярність — ситуацію, за якої ШІ почне самостійно вдосконалювати себе без людського керування. Водночас Абрагамссон вважає, що публічні заяви керівників ШІ-компаній мають і політичний та маркетинговий вимір.
У матеріалі зазначається, що суворе глобальне регулювання й дорогі механізми безпеки можуть створити значні бар’єри для розробників відкритого коду, університетів і менших компаній. Це потенційно здатне посилити позиції великих гравців, зокрема Anthropic і OpenAI, які, за даними YLE News, готують масштабні раунди фінансування або біржові розміщення.
