У США OpenAI, Anthropic і Google DeepMind кілька тижнів обговорюють безпеку ШІ
У США OpenAI протягом кількох тижнів проводить переговори з Anthropic і Google DeepMind щодо безпеки штучного інтелекту. Про це журналістам повідомив керівник OpenAI з глобальної політики Кріс Лехейн, який, за даними TechCrunch, перебуває у Вашингтоні та працює з американськими законодавцями над питаннями катастрофічних ризиків, пов’язаних із ШІ.
Переговори про безпеку
Заява Лехейна пролунала після есе генерального директора Anthropic Даріо Амодея, опублікованого в суботу. У ньому він закликав представників індустрії спільно працювати над уповільненням розвитку передових систем ШІ, щоб уникнути катастрофічних ризиків.
Заклик Амодея підтримали керівник OpenAI Сем Альтман, керівник Google DeepMind Деміс Гассабіс та Ілон Маск. Альтман також заявив, що OpenAI разом з Anthropic залучатиме незалежних сторонніх оцінювачів для моніторингу безпеки в компанії.
Раніше Альтман в інтерв’ю Fortune натякнув, що приватно обговорював ці питання з іншими лідерами галузі. The Information цього тижня повідомило, що OpenAI, Anthropic і Google працюють над створенням органу стандартизації для індустрії ШІ. За даними видання, Альтман сказав працівникам, що такий орган має бути створений без підтримки уряду США.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Регулювання та конкуренція
Деякі представники індустрії, зокрема Альтман, зазначали, що координація між конкурентами може створити ризик порушення антимонопольного законодавства, якщо її визнають такою, що обмежує конкуренцію. Амодей пропонував запровадити вузьке урядове виключення для такої взаємодії у сфері безпеки, однак Лехейн, за даними TechCrunch, заявив, що компаніям воно не потрібне.
Гассабіс у липні закликав США створити новий орган стандартизації, який міг би перевіряти найпередовіші моделі ШІ та координувати сповільнення їхнього розвитку в разі зростання небезпек.
На тій самій зустрічі у вівторок Лехейн заявив, що OpenAI підтримує положення законопроєкту FRONTIER Act. Воно передбачає, що провідні лабораторії мають допускати незалежні верифікаційні організації для перевірки безпечності розробки моделей. Президент Дональд Трамп раніше називав занепокоєння щодо безпеки ШІ містифікацією та виступав проти посилення регулювання, заявляючи, що будь-яке уповільнення дасть Китаю перевагу в технологічній конкуренції.
