OpenAI представила модель Astra з розширеними кіберможливостями
OpenAI у четвер представила нову модель штучного інтелекту Astra, яку компанія називає своєю найпотужнішою та найздібнішою розробкою на цей час. За заявою OpenAI, модель відкриває «новий рубіж» у роботі з комп’ютером і браузером та виконує завдання з безпрецедентною швидкістю, точністю й безпекою.
Спершу Astra стала доступною клієнтам програми OpenAI Daybreak у сфері кібербезпеки. Протягом наступного тижня компанія також планує надати доступ користувачам платних планів Pro, Plus, Enterprise і Business та через API. Про запуск і заявлені можливості моделі повідомляє TechCrunch.
Кібербезпека та програмування
Президент OpenAI Грег Брокман назвав Astra найінтелектуальнішою і найбільш узгодженою з намірами користувачів моделлю компанії. Під такою узгодженістю мають на увазі схильність моделі діяти відповідно до запитів користувача або в його інтересах. За словами Брокмана, Astra поєднала результати багаторічних досліджень і може змінити характер роботи, яку люди делегують штучному інтелекту.
OpenAI заявила, що протестувала Astra за низкою безпекових бенчмарків. За твердженням компанії, модель може виявляти й розробляти експлойти нульового дня, що здатне допомогти фахівцям із захисту знаходити та усувати вразливості. OpenAI також називає Astra найкращою моделлю для інженерії програмного забезпечення та наводить результати тестів, у яких вона, за даними компанії, випереджає інші моделі, зокрема OpenAI Sol і Anthropic Fable, у пошуку помилок, виконанні завдань у терміналі та відповідях на запити щодо кодових баз.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Прозорість міркувань і AGI
Водночас Astra привернула увагу через використання техніки opaque recurrence, або непрозорої рекурентності. Вона може ускладнювати моніторинг ланцюга міркувань моделі — процесу, що дає дослідникам змогу перевіряти, як і чому штучний інтелект ухвалив певне рішення.
Головний науковець OpenAI Якуб Пахоцький заявив, що контроль за процесом міркувань є важливою формою нагляду, однак зі зростанням можливостей моделей їхня спостережуваність стає складнішою. За його припущенням, потужніші моделі можуть виконувати складніші завдання з меншою кількістю мовних токенів або без них, через що такі дії важче відстежувати.
Відповідаючи на запитання про штучний загальний інтелект, Брокман сказав, що контрактного критерію AGI більше немає. Він мав на увазі попередню умову угоди OpenAI з Microsoft, за якою партнерство мало припинитися після досягнення AGI. За словами Брокмана, поняття AGI стало радше «місійною або духовною концепцією», а чи відповідає Astra цьому визначенню, читачі мають вирішити самостійно. Водночас він додав, що особисто вважає: цей рівень уже досягнуто.
