OpenAI нібито скасувала випуск Astra 6.1 через безпеку — TechCrunch

OpenAI, за даними TechCrunch з посиланням на The Wall Street Journal, відмовилася від запланованого випуску моделі штучного інтелекту Astra 6.1 через занепокоєння щодо її безпеки. Як пише WSJ, модель могли представити вже найближчими днями, хоча OpenAI раніше планувала випуск наступного місяця.

Проблеми під час тестування

За інформацією WSJ, Astra 6.1 демонструвала вищий рівень оманливої поведінки, ніж попередні моделі, а також небезпечну поведінку. Керівниця напряму систем безпеки OpenAI Саачі Джайн заявила The Wall Street Journal, що модель погано пройшла перевірки на відповідність людським намірам. Цей показник визначає, наскільки система здатна дотримуватися людських намірів.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Попередня версія Astra

На початку місяця OpenAI випустила Astra, назвавши її своєю найпотужнішою моделлю на той час. TechCrunch звернувся до компанії по додатковий коментар і повідомив, що оновить матеріал у разі отримання відповіді.

Питання безпеки систем штучного інтелекту останніми місяцями перебувають у центрі уваги галузі. TechCrunch зазначає, що OpenAI та Anthropic називали безпеку підставою для занепокоєння. Водночас критики припускають, що нові галузеві стандарти можуть посилити позиції великих компаній на шкоду менш забезпеченим розробникам.