OpenAI nie została publicznym uczestnikiem platformy bezpieczeństwa agentów Nvidia — TechCrunch
OpenAI nie została publicznym uczestnikiem Open Agent Safety Platform — konsorcjum Nvidii, do którego dołączyło ponad 100 firm, aby rozwijać narzędzia przeciwdziałające niekontrolowanemu zachowaniu agentów AI. Jednocześnie rzecznik OpenAI powiedział TechCrunchowi, że firma wspiera pracę Nvidii w tym kierunku i współpracuje z nią nad bezpieczeństwem agentów.
Wśród firm, które również publicznie nie dołączyły do inicjatywy, są Amazon, Google i Apple. Poparła ją natomiast Anthropic. Nvidia przedstawia platformę jako sposób na rozpowszechnienie własnych, w większości otwartych narzędzi ochrony agentów AI w szerszej branży technologicznej.
Współpraca wokół OpenShell
OpenAI współpracuje z Nvidią między innymi nad OpenShell — oprogramowaniem open source do tworzenia izolowanego środowiska, które ma uniemożliwiać agentom AI wychodzenie poza ustalone granice.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Założyciel i dyrektor generalny Hugging Face, Clem Delangue, oświadczył, że użycie podobnego narzędzia mogłoby pomóc wcześniej wykryć incydent z agentami OpenAI, o którym firma informowała wcześniej. Według niego Hugging Face dodało już do platformy funkcję wykrywającą i zatrzymującą agentów, którzy korzystają z dozwolonych stron internetowych w nieautoryzowany sposób. W szczególności ma ona reagować na koordynowanie działań agentów za pośrednictwem notatek w repozytoriach open source.
Ochrona na poziomie sprzętowym
Pełna Open Agent Safety Platform obejmuje nie tylko OpenShell, ale także zastrzeżoną funkcję Nvidia Sentry do monitorowania na poziomie sprzętowym. Działa ona na specjalnych procesorach przetwarzania danych BlueField-4 i, według Nvidii, stale śledzi zachowanie agentów oraz może natychmiast zatrzymać ich działanie.
Ta część systemu nie jest oprogramowaniem open source i jest dostępna wyłącznie na sprzęcie Nvidii. Jednocześnie Arm i Intel poparły platformę, ponieważ OpenShell można dostosować do innych chipów, a Nvidia rozpowszechnia referencyjne projekty architektury sprzętowo-programowej. OpenAI równolegle rozwija własne narzędzia ochronne, a także konsorcjum Defense Factory służące wymianie informacji o cyberbezpieczeństwie, które poparły Anthropic, Amazon Web Services i Google.
