Гендиректор OpenAI попередив про загрозу втрати контролю над штучним інтелектом – CNN

Світ стоїть на порозі нової хвилі кіберзлочинності, спричиненої масовим поширенням штучного інтелекту. 

Генеральний директор OpenAI Сем Альтман заявив, що ШІ вже дозволяє зловмисникам легко видавати себе за інших людей, і масштаби цієї загрози лише зростатимуть, пише CNN.

Альтман наголосив, що його лякає той факт, що деякі фінансові установи досі приймають голосовий відбиток як метод автентифікації. «Ви називаєте фразу – і гроші переказують. Це божевілля», – додав він. Він підкреслив, що наразі шахраї використовують голосові дзвінки, але незабаром з’являться відеодзвінки, які буде неможливо відрізнити від справжніх.

Раніше ФБР вже застерігало від ШІ-злочинів, у яких зловмисники використовують технології для імітації голосу чи зовнішності інших людей. Наприклад, були спроби ошукати батьків, переконавши їх, що їхні діти в небезпеці. У липні стало відомо, що хтось використав голосову імітацію держсекретаря США Марко Рубіо, щоб контактувати з іноземними міністрами та американськими політиками.

Серед технологічних загроз Альтман також назвав можливість створення «надінтелектуальних» ШІ-систем недобросовісними гравцями – наприклад, іноземними державами, які можуть використати ШІ для атак на інфраструктуру США або створення біозброї. Він вважає, що світ ще не готовий захищатися від таких викликів.

Крім того, Альтман зізнався, що боїться сценарію, за якого людство втратить контроль над надпотужною ШІ-системою або передасть їй надто багато повноважень.

Раніше дослідник OpenAI Джейсон Вей, який працював над моделями o3 та функцією Deep research, залишає компанію, щоб приєднатися до нового підрозділу Meta, що займається суперінтелектом. 

Meta продовжує  активну стратегію з наймання провідних фахівців у сфері штучного інтелекту, залучивши одразу трьох дослідників з офісу OpenAI у Цюриху — Лукаса Бейєра, Александера Колеснікова та Сяохуа Чжая.

Meta активно залучає  провідних спеціалістів зі штучного інтелекту, пропонуючи їм контракти на суми до $300 мільйонів у вигляді акцій.