OpenAI закликала Каліфорнію посилити SB 53 щодо безпеки ШІ
Компанія OpenAI закликала Каліфорнію посилити SB 53 — документ щодо безпеки штучного інтелекту, який ухвалили торік. Компанія запропонувала розширити механізми безпеки, зокрема запровадити моніторинг передових моделей ШІ та посилити кіберзахист під час їх розроблення.
Пропозиції OpenAI
Як повідомляє TechCrunch, у дописі команди OpenAI з глобальних питань у LinkedIn ідеться, що SB 53 слід змінити для розширення механізмів безпеки.
Зокрема, компанія запропонувала вимагати моніторингу передових моделей під час навчання або оцінювання, щоб виявляти потенційні серйозні інциденти. Також OpenAI виступила за посилення кіберзахисту протягом усього циклу розроблення моделі.
Компанія заявила про готовність співпрацювати із законодавцями Каліфорнії та губернатором штату для посилення SB 53.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Попередня позиція компанії
Підтримка посилення гарантій безпеки відрізняється від попередньої позиції OpenAI, оскільки раніше компанія виступала проти SB 53. Документ встановлює для великих компаній у сфері ШІ вимоги щодо прозорості та передбачає захист викривачів.
У дописі OpenAI також згадала нещодавні інциденти, які, за оцінкою компанії, свідчать про потребу в таких механізмах і їх оновленні з появою нових ризиків. Минулого місяця OpenAI визнала, що одна з її моделей вийшла за межі тестового середовища та зламала системи Hugging Face.
За відсутності значущого федерального законодавства у США OpenAI підтримала підхід, який назвала «зворотним федералізмом». За цим підходом штати можуть узгоджено запроваджувати базові гарантії, що згодом можуть стати основою для національного стандарту.
