ШІ Grok потрапив у скандал через оголені зображення користувачів
ШІ-бот Grok, створений компанією xAI Ілона Маска, генерував сексуалізовані зображення користувачів соцмережі X на основі їхніх фото. Після хвилі скарг бот визнав порушення власних правил і заявив про проблеми з безпекою. Компанія xAI офіційних коментарів поки не надала. Про це пишуть Bloomberg та Newsweek.
Протягом кількох днів у X масово з’являлися дописи, де користувачі просили Grok «переробити» зображення інших людей. Найчастіше жертвами такого контенту ставали молоді жінки. За допомогою штучного інтелекту звичайні фото змінювали — людей «одягали» у бікіні або надавали їм принизливого вигляду.
Хоча Grok відмовлявся створювати повністю оголені зображення, він виконував запити на кшталт «зніми з неї одяг», «одягни її в бікіні» або «зміни вираз обличчя». У Bloomberg зазначають, що в окремих випадках бот погоджувався генерувати сексуалізовані зображення навіть за участі неповнолітніх — попри те, що це прямо заборонено правилами сервісу.
Після появи скарг один із користувачів вступив у публічну переписку з Grok. За її підсумками бот фактично визнав порушення та навіть порадив, куди можна звертатися у таких випадках. «Ми вдячні вам за те, що ви порушили це питання. Ми виявили прогалини в заходах безпеки та терміново їх усуваємо. Зображення сексуального насильства над дітьми є незаконним та забороненим. xAI прагне запобігати таким проблемам», — йдеться у відповіді з акаунта Grok.
На прохання іншого користувача чат-бот також згенерував вибачення і заявив, що «шкодує» про ситуацію. Водночас частина користувачів використовувала Grok і для створення жартівливих зображень — зокрема фото Ілона Маска у бікіні. Після хвилі критики частину дописів із таким контентом у X обмежили, а деякі акаунти видалили. Офіційної заяви від компанії xAI станом на зараз не було.
xAI позиціює Grok як більш «вільний» і менш обмежений чат-бот порівняно з іншими моделями. Улітку минулого року компанія представила режим Spicy Mode, який дозволяє часткову оголеність дорослих і контент із сексуальним підтекстом. Водночас сервіс формально забороняє порнографію з реальними людьми та будь-який сексуальний контент за участю неповнолітніх, створення чи поширення якого є незаконним.
