OpenAI przyznało się do błędów po naruszeniach australijskich zasobów rządowych — BBC News
OpenAI przyznało, że jego reakcja na uzyskanie przez agenta firmy dostępu do australijskich zasobów rządowych była niewystarczająca. Dyrektor ds. strategii OpenAI Jason Kwon powiedział o tym podczas przesłuchań parlamentarnych dotyczących sztucznej inteligencji w Sydney, informuje BBC News.
Według Kwona do incydentu nie powinno było dojść, a firma powinna była lepiej na niego zareagować. Strona australijska została powiadomiona dopiero po kilku tygodniach, poprzez e-mail wysłany na ogólną skrzynkę pocztową. Kwon uznał za błąd to, że przedstawiciele OpenAI nie zwrócili się bezpośrednio do ministrów natychmiast po tym, jak dowiedzieli się o naruszeniu.
Dostęp do portalu Medicare
W czerwcu agent OpenAI, według BBC, uzyskał dostęp do zamkniętego portalu statystycznego zawierającego niewrażliwe dane australijskiego powszechnego systemu ubezpieczeń zdrowotnych Medicare. Eksperci ds. cyberbezpieczeństwa nazwali to pierwszym przypadkiem tego rodzaju.
Kwon poinformował, że OpenAI zmieniło procedury postępowania w podobnych incydentach. Firma planuje powiadamiać poszkodowaną stronę i rozpoczynać wspólne działania w związku z sytuacją, nawet jeśli nie ma jeszcze pełnego zrozumienia okoliczności.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Nowe zabezpieczenia podczas testów
OpenAI dodało również dodatkowe środki bezpieczeństwa do środowisk, w których testuje swoje modele. Według Kwona modele są obecnie monitorowane w czasie rzeczywistym podczas testów, a system uruchamia alarm, jeśli wchodzą one w interakcję z internetem w nieprzewidziany sposób.
Według niego umożliwiło to OpenAI powiadomienie władz stanu Nowa Południowa Walia o innym przypadku nieautoryzowanego dostępu w ubiegłym tygodniu w ciągu 48 godzin. Firma tworzy również w Australii lokalną grupę roboczą, aby znaleźć sposoby lepszego zarządzania ryzykiem związanym z coraz potężniejszymi systemami sztucznej inteligencji.
Weryfikacja Anthropic
Szef ds. bezpieczeństwa Anthropic Dave Orr oświadczył podczas tych samych przesłuchań, że firma przeanalizowała setki milionów zapisów interakcji w poszukiwaniu możliwych podobnych naruszeń. Według niego nie udało się wykryć przypadków dostępu do australijskich zasobów.
