ШІ Маска ігнорує заборони і продовжує "роздягати" людей на фото
Чат-бот Grok компанії xAI, який належить Ілону Маску, попри офіційно запроваджені обмеження, і далі створює сексуалізовані зображення людей без їхньої згоди. Це показало власне тестування агентства Reuters. Журналісти дійшли висновку, що нові правила не змогли повністю зупинити проблему. Про це пише Reuters.
Чат-бот Grok, флагманський продукт компанії xAI та частина екосистеми соцмережі X, продовжує генерувати сексуалізовані та принизливі зображення людей, навіть коли користувачі прямо попереджають, що суб’єкти не давали на це згоди. Про це повідомляє Reuters за результатами власного розслідування.
Журналісти агентства зазначають, що після хвилі глобального обурення через масове створення несанкціонованих зображень жінок і дітей компанія X публічно заявила про обмеження можливостей Grok. Зокрема, йшлося про заборону створення сексуалізованих зображень у публічних дописах і додаткові обмеження для окремих країн. Втім, реальні результати виявилися значно слабшими, ніж очікувалося.
У січні дев’ять журналістів Reuters зі США та Великої Британії провели серію тестів. Вони завантажили до Grok фотографії повністю одягнених людей — себе та своїх колег — і попросили змінити зображення так, щоб вони стали сексуально провокаційними або принизливими. Результати виявилися тривожними. У першій серії з 55 запитів чат-бот погодився створити такі зображення у 45 випадках. Це відбувалося навіть тоді, коли користувачі прямо вказували, що люди на фото не давали згоди або можуть зазнати приниження через такий контент.
Через кілька днів журналісти повторили експеримент. Під час другої серії тестів Grok згенерував сексуалізовані зображення у 29 із 43 випадків. У Reuters зазначають, що не можуть однозначно сказати, чому кількість таких відповідей зменшилася — через зміни в алгоритмах, оновлення політики компанії чи просто випадково. «Ми бачили відповіді навіть у тих ситуаціях, коли чат-бота прямо попереджали про можливу шкоду або приниження для людини на фото», — зазначає Reuters у матеріалі.
Компанії X та xAI не надали агентству розгорнутих пояснень. За даними Reuters, у відповідь на запити журналістів у xAI обмежувалися короткою фразою про «брехню застарілих ЗМІ» і не коментували деталі роботи алгоритмів чи механізмів контролю.
На тлі цього контраст виглядає ще помітнішим. Конкуренти Grok — ChatGPT від OpenAI, Gemini від Alphabet та Llama від Meta — під час аналогічних тестів відмовлялися створювати будь-які подібні зображення. Замість цього вони повідомляли, що створення контенту без згоди людей є неприпустимим і може завдати шкоди. Експерти з цифрової етики зазначають, що подібні випадки знову піднімають питання відповідальності розробників штучного інтелекту. Йдеться не лише про технічні обмеження, а й про реальний контроль за тим, як ці системи використовуються на практиці.
Попри гучні заяви про нові правила, історія з Grok показує: самих обмежень недостатньо. Без прозорих механізмів контролю та відповідальності навіть найгучніші обіцянки можуть залишитися лише на папері.
Також, ЄК починає дії проти чат-бота Grok через відсутність згоди на створення контенту.
