Apple zobowiązał deweloperów do usuwania seksualnych obrazów bez zgody — The Verge

Apple zaktualizował zasady App Store, zobowiązując deweloperów do proaktywnego zapobiegania pojawianiu się i usuwania seksualnych obrazów stworzonych bez zgody przedstawionych na nich osób. Firma wyraźniej zakazała także aplikacji, które po zatwierdzeniu mogą dodawać funkcje tworzenia za pomocą sztucznej inteligencji obrazów nagich osób. Informuje o tym The Verge.

Wymagania dla deweloperów

Zgodnie z nowymi zasadami deweloperzy muszą wdrożyć odpowiednie mechanizmy ochrony przed rozpowszechnianiem seksualnych obrazów bez zgody. Aplikacja może zostać usunięta z App Store, jeśli jej deweloper nie zapewni wystarczających zabezpieczeń lub nie usunie naruszeń po otrzymaniu powiadomienia od Apple.

Firma doprecyzowała również zasadę przeciwko tak zwanym aplikacjom bait-and-switch. Dotyczy ona usług, które po przejściu weryfikacji dodają lub zmieniają funkcje, w tym wprowadzają narzędzia do tworzenia obrazów nagich osób.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wcześniejsza krytyka i ograniczenia

Zmiany nastąpiły po krytyce Apple za wykorzystywanie przez użytkowników X narzędzia Grok do tworzenia seksualizowanych deepfake'ów bez zgody osób, których dotyczyły, w tym nieletnich. Apple nie usunął X ani Grok z App Store, jednak poinformował senatorów, że groził usunięciem Grok ze sklepu.

W czerwcu, podczas konferencji Apple WWDC, protestujący wezwali firmę do usunięcia z App Store Grok, X oraz wszystkich technologii służących do tworzenia takich obrazów. W lipcu prokurator miejski San Francisco nakazał Apple usunięcie 13 takich aplikacji, a firma oświadczyła, że spełniła ten wymóg.

Zaktualizowane zasady wyraźnie przewidują również usuwanie z App Store i blokowanie alternatywnej dystrybucji aplikacji, które ułatwiają handel ludźmi lub wykorzystywanie dzieci.