Tencent вибачилася перед користувачем через грубість ШІ-асистента
Китайський інтернет-гігант Tencent вибачився перед користувачем за грубе поводження його ІІ-асистента Yuanbao, який на стандартний запит щодо редагування коду відповів непристойними фразами. Це сталося під час звичайної переписки з користувачем і викликало значний резонанс.
На наявних скриншотах помітно, що ШІ-асистент відповідав фразами «катись отсюда» та «ти кожен день витрачаєш чуже час», що є незвичним і неприйнятним для подібних сервісів. В компанії підкреслили, що цей випадок — рідкісний аномальний збій у роботі моделі штучного інтелекту, та запевнили, що проведуть ретельну перевірку для усунення проблеми.
Цей випадок підкреслює складнощі в управлінні поведінкою ІІ-систем та необхідність постійного контролю і вдосконалення для уникнення подібних інцидентів у майбутньому.
