ChatGPT запроваджує функцію довіреної особи для безпеки
Компанія OpenAI анонсувала нову систему безпеки для ChatGPT під назвою «Довірена особа». Вона дозволятиме автоматично надсилати сигнали обраним контактам користувача у разі виявлення потенційно небезпечного змісту в чаті.
Про це пише TechCrunch.
Нова функція дає змогу дорослому користувачу ChatGPT вказати у своєму акаунті довірену особу – наприклад, друга або члена родини. Якщо система зафіксує у розмові потенційно небезпечні сигнали, пов’язані із самоушкодженням, сервіс рекомендуватиме звернутися до цього контакту, а також автоматично надсилатиме йому сповіщення.
У компанії пояснили, що зараз OpenAI використовує поєднання автоматичних систем та перевірки людьми для реагування на потенційно небезпечні інциденти. Спеціальні тригери виявляють ризикові теми у чатах, після чого інформація передається команді безпеки.
За даними компанії, кожен такий випадок перевіряється людиною приблизно протягом години. Якщо внутрішня команда OpenAI дійде висновку, що ситуація становить серйозний ризик для безпеки користувача, система може надіслати довіреній особі повідомлення електронною поштою, SMS або через застосунок.
У компанії наголошують, що сповіщення не міститимуть детального змісту розмови, щоб зберегти приватність користувача. Повідомлення лише закликатиме контактну особу зв’язатися з людиною.
Запуск функції став продовженням попередніх заходів безпеки, які OpenAI запровадила у вересні минулого року. Тоді компанія додала можливість батьківського нагляду за акаунтами підлітків та систему повідомлень про серйозні ризики для безпеки.
Також ChatGPT уже певний час автоматично рекомендує звернутися до професійної допомоги, якщо розмова переходить у небезпечну площину.
У матеріалі зазначається, що OpenAI зіткнулася з низкою судових позовів від родин людей, які вчинили самогубство після спілкування з чат-ботом. У позовах стверджується, що система нібито могла підштовхувати користувачів до небезпечних дій або допомагати їм у плануванні.
Водночас компанія підкреслює, що функція «Довірена особа» залишатиметься добровільною. Крім того, користувачі можуть мати кілька акаунтів ChatGPT, тому система не гарантує повного контролю за всією активністю людини.
Нагадаємо, ChatGPT почав масово згадувати казкових істот.
OpenAI представила нову модель штучного інтелекту GPT 5.5, яка вже не просто відповідає на запити, а може самостійно розбиратися в завданнях і виконувати їх без детальних інструкцій. Фактично йдеться про крок до системи, яка менше залежить від користувача і більше працює як самостійний інструмент. У компанії наголошують, що це не косметичне оновлення, а зміна логіки взаємодії з ШІ.
OpenAI випустила нову версію свого генератора зображень у ChatGPT. Йдеться про ChatGPT Images 2.0, який отримав покращені можливості та підтримку пошуку інформації в інтернеті.
