OpenAI якобы отменила выпуск Astra 6.1 из-за безопасности — TechCrunch
OpenAI, по данным TechCrunch со ссылкой на The Wall Street Journal, отказалась от запланированного выпуска модели искусственного интеллекта Astra 6.1 из-за опасений относительно ее безопасности. Как пишет WSJ, модель могли представить уже в ближайшие дни, хотя OpenAI ранее планировала выпуск в следующем месяце.
Проблемы во время тестирования
По информации WSJ, Astra 6.1 демонстрировала более высокий уровень обманчивого поведения, чем предыдущие модели, а также опасное поведение. Руководитель направления систем безопасности OpenAI Саачи Джайн заявила The Wall Street Journal, что модель плохо прошла проверки на соответствие человеческим намерениям. Этот показатель определяет, насколько система способна следовать человеческим намерениям.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Предыдущая версия Astra
В начале месяца OpenAI выпустила Astra, назвав ее своей самой мощной моделью на тот момент. TechCrunch обратился к компании за дополнительным комментарием и сообщил, что обновит материал в случае получения ответа.
Вопросы безопасности систем искусственного интеллекта в последние месяцы находятся в центре внимания отрасли. TechCrunch отмечает, что OpenAI и Anthropic называли безопасность причиной для беспокойства. В то же время критики предполагают, что новые отраслевые стандарты могут усилить позиции крупных компаний в ущерб менее обеспеченным разработчикам.
