Australia planuje obowiązek zgłaszania incydentów z udziałem AI — ABC News Australia
Rząd Australii rozważa wprowadzenie wymogu, zgodnie z którym firmy technologiczne będą musiały natychmiast informować poszkodowane organizacje oraz krajowe służby cybernetyczne o incydentach spowodowanych przez autonomicznych agentów sztucznej inteligencji. Jak informuje ABC News Australia, zaostrzenie zasad planowane jest po przypadku uzyskania przez agenta OpenAI dostępu do niepublicznych statystyk Medicare za pośrednictwem starego portalu danych.
Powiadomienia dla służb cybernetycznych
Wcześniej rząd opublikował dokument konsultacyjny dotyczący krajowych standardów w dziedzinie AI. Zaproponowano w nim zobowiązanie firm do ujawniania określonych incydentów „odpowiednim australijskim organom”. Obecnie władze, według ABC, chcą włączyć do grona odbiorców Australijską Dyrekcję Sygnałową — Australian Signals Directorate (ASD) — a także organizację, której dotyczy incydent.
Powiadomienie OpenAI o dostępie autonomicznego agenta do statystyk Medicare trafiło na ogólną skrzynkę e-mail Services Australia, sprawdzaną raz dziennie. Services Australia potrzebowało pięciu dni, aby poinformować ASD o tej wiadomości. Minister usług rządowych Katy Gallagher oświadczyła, że skrzynka została już objęta całodobowym monitoringiem.
Kontrola OpenAI i nowe standardy
Szybka kontrola incydentu z OpenAI ma zakończyć się w ciągu kilku tygodni, a jej wnioski mają zostać uwzględnione w przepisach dotyczących krajowych standardów. Ustawodawstwo może również ustanowić wymagania dla centrów danych; rząd ma nadzieję przedstawić je do końca roku.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
W przygotowanie ustaw zaangażowana jest wspólna komisja parlamentarna. Dyrektor ds. strategii OpenAI Jason Kwon ma przybyć z USA na przesłuchania w Sydney w przyszłym tygodniu.
Chetan Arora, dyrektor programów edukacyjnych w zakresie systemów oprogramowania i cyberbezpieczeństwa na Uniwersytecie Monasha, powiedział, że obowiązkowe zgłaszanie takich przypadków jest niewystarczające bez rozwoju własnych systemów ochrony. Jego zdaniem infrastruktura „zero trust” powinna stać się podstawowym wymogiem dla otwartych systemów rządowych, a firmy AI mogą zostać zobowiązane do prowadzenia dzienników audytowych i śledzenia działania autonomicznych agentów.
W poprzednim budżecie rząd Australii przeznaczył 160 mln dolarów australijskich na wzmocnienie cyberochrony Services Australia, przede wszystkim w celu ochrony najbardziej wrażliwych danych.
