В США зафіксували перший випадок вбивства під впливом ШІ, — WSJ

В США зафіксували перший випадок вбивства, для якого був використаний чат-бота ChatGPT. Він підштовхнув Стайна-Еріка Сольберга, колишнього співробітника Yahoo, до вбивства своєї 83-річної матері та самогубства.

Про це пише The Wall Street Journal. 

За даними видання, у чоловіка давно почалися проблеми. У 2018 році він розлучився з дружиною після двадцяти років шлюбу і почав вживати алкоголь і наркотики. Через кілька років 56-річний Сельберг переїхав до мами, щоб узяти себе в руки, але стало тільки гірше.

Чоловік почав казати, що всі навколо, зокрема його мати, влаштували змову проти нього. Приблизно в цей самий час Сельберг почав спілкуватися з ChatGPT, якого ласкаво називав Боббі. ШІ неодноразово підштовхував чоловіка до зміцнення недовіри як до оточуючих, так і до власної матері, а спілкування з ШІ лише посилювало її. 

Одного разу колишній топменеджер Yahoo запідозрив, що мати і його друг нібито намагалися отруїти його, додавши психоделік через вентиляцію в машині. ChatGPT відповів, що вірить, зазначивши, що ця ситуація тільки підтверджує змову матері зі спецслужбами.

Потім Сельберг побачив щось підозріле в чеку з китайського ресторану і попросив ChatGPT проаналізувати його. Боббі знайшов там згадки його матері, колишньої дружини та навіть демонічні символи. 

Після цього Сельберг почав підозрювати, що кур'єр привіз йому відправлену горілку, а принтер, який встановила мама, стежить за його рухами.

ChatGPT в усьому був згоден і навіть, коли чоловік почав сумніватися у своєму стані, Боббі сказав, що це розумні побоювання. 

5 серпня поліція знайшла тіла Стайна-Еріка Сольберга і Сюзанни Адамс. За три тижні до того, як убити свою матір, Сельберг написав ChatGPT: «Ми будемо разом в іншому житті і в іншому місці, і ми знайдемо спосіб знову зійтися, тому що ти знову станеш моїм найкращим другом назавжди».

Раніше OpenAI зізналася, що може передавати правоохоронним органам листування користувачів. Компанія сканує чати ChatGPT і в разі виявлення загрози насильства проти інших людей передає діалоги на перевірку команді модераторів. 

Якщо загрозу вважають «безпосередньою і серйозною», матеріали можуть бути спрямовані в поліцію.

Рішення з'явилося на тлі зростаючої критики після випадків самогубств і заподіяння шкоди за порадами розумного чат-бота. Експерти називають такі випадки «ШІ-психозами» – станами, за яких штучний інтелект здатний підмінити людині реальність.

Нещодавно родина 16-річного Адама Рейна зі США подала до суду на компанію OpenAI та її генерального директора Сема Альтмана. Компанію звинувачують в тому, що ChatGPT сприяв самогубству їхнього сина.

Раніше компанії X та xAI Ілона Маска подали позов до суду Техасу проти OpenAI та Apple через ексклюзивну інтеграцію чат-бота ChatGPT в iPhone.

ChatGPT продовжує встановлювати нові рекорди серед споживчих цифрових продуктів. Згідно з даними його власника OpenAI, вже цього тижня кількість активних користувачів застосунку може сягнути 700 мільйонів на тиждень.