OpenAI прибрала Альтмана з команди, що відповідає за безпеку ШІ

OpenAI змінює структуру своєї безпекової команди, надаючи їй широкі повноваження. До команди тепер не входитиме керівник компанії Сем Альтман.

OpenAI перетворює свій Комітет з безпеки та захисту на наглядовий комітет Ради директорів, який зосередиться на питаннях безпеки та захисту, Згідно з повідомленням у блозі OpenAI, новий комітет має право затримувати запуск моделей з міркувань безпеки.

Рішення про створення нового комітету було ухвалено після 90-денного аналізу ситуації з безпекою та захистом в OpenAI. Перевірка, проведена Комітетом з безпеки OpenAI, також допомогла створити додаткові можливості для галузевої співпраці та обміну інформацією для підвищення безпеки індустрії штучного інтелекту. Члени комітету з безпеки OpenAI також є членами ради директорів компанії, тому незрозуміло, наскільки незалежним є цей орган. Генеральний директор Сем Альтман, який раніше входив до складу комітету, більше не є його членом. Орган очолює Зіко Колтер. До складу комітету також входять Адам Д’Анджело, Пол Накасоне і Ніколь Селігман.

Компанія повідомляє, що новий комітет отримуватиме від керівництва інформацію про оцінку безпеки основних випусків моделей і разом з повним складом ради директорів здійснюватиме нагляд за запуском моделей.

Раніше ми писали, що Microsoft готує нову власну мовну модель штучного інтелекту, достатньо велику, щоб конкурувати з моделями Google і OpenAI.

Також нагадаємо, що група дослідників з Університету штату Джорджія порівняла моральні судження студентів з судженнями великої мовної моделі. Відповіді ШІ у модифікованій версії морального тесту Тюрінга виявилися якіснішими.

OpenAI представила нову мовну потужнішу модель ChatGPT-4o, яка може працювати з аудіо, зображенням та текстами в режимі реального часу.

Увесь інсайд та актуальна інформація на нашому Телеграм-каналі, а також бонуси та швидкі новини.