OpenAI ograniczy nastolatkom informacje o broni w ChatGPT — Channel NewsAsia

Firma OpenAI oświadczyła, że zaostrzy ograniczenia dotyczące informacji o broni, których ChatGPT udziela nastolatkom. Nowe zasady będą dotyczyć praktycznych informacji o broni i systemach bezpieczeństwa, które mogą zostać niewłaściwie wykorzystane, nawet jeśli zapytanie nie zawiera oznak przemocy.

Ograniczenia dla nastolatków

Jak informuje Channel NewsAsia, zmiany są częścią nowych zabezpieczeń OpenAI mających na celu przeciwdziałanie przemocy w świecie rzeczywistym. Firma wzmocniła również system przewidywania wieku użytkowników. Konta osób, które system uzna za mające mniej niż 18 lat, będą przenoszone do nastoletniego trybu usługi.

OpenAI planuje powiadamiać rodziców, jeśli konto ich dziecka zostanie tymczasowo zawieszone z powodu powtarzających się rozmów o przemocy. Firma poinformowała, że nowe zabezpieczenia zaczną być wdrażane w ciągu najbliższych kilku tygodni i będą dalej udoskonalane.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Środki dla wszystkich użytkowników

W przypadku wszystkich użytkowników ChatGPT będzie mógł automatycznie kończyć rozmowy, jeśli dana osoba, według oceny systemu, obsesyjnie koncentruje się na temacie przemocy. Po kilku takich czatach OpenAI może tymczasowo zawiesić konto.

Firma ogranicza również szczegóły dotyczące wcześniejszych masowych ataków, w tym informacje o użytej broni i sposobach jej zdobycia. Wcześniej OpenAI podała w swoim pierwszym raporcie na temat korzystania z ChatGPT przez nastolatków, że spędzają oni w usłudze średnio mniej niż 15 minut dziennie.

Jednocześnie organizacja non-profit Common Sense Media wskazała w swoim raporcie, że nastoletnia wersja ChatGPT często z opóźnieniem powiadamiała rodziców lub w ogóle nie powiadamiała ich o rozmowach dotyczących samobójstwa, samookaleczenia lub zaburzeń odżywiania.