Уряд Великої Британії створив інструменти для перевірки безпеки штучного інтелекту

Інститут безпеки Великої Британії представив набір інструментів з покращення безпеки штучного інтелекту. Про це повідомляє TechCrunch.

Цей набір, названий Inspect, має відкритий вихідний код і дозволяє легко розробляти оцінки безпеки для промисловості, дослідницьких організацій та наукових груп.

Inspect є першим у своєму роді засобом безпеки ШІ, що розроблений державним органом і доступний для широкого використання. Він дозволяє оцінювати можливості моделей ШІ, зокрема їх базові знання і здатність до міркувань, та виставляти оцінку на основі результатів.

Голова Інституту безпеки, Ян Хогарт, наголосив на важливості спільного підходу до оцінки безпеки ШІ та сподівається, що Inspect стане спільною платформою для цих цілей. Він закликав глобальну спільноту ШІ використовувати Inspect не тільки для проведення власних тестів на безпеку моделей, але й для адаптації та використання цієї платформи з відкритим вихідним кодом.

Раніше ми писали, що мешканці, що проживають поруч із новим центром обробки даних Google вартістю 790 мільйонів фунтів стерлінгів, стверджують, що він приносить шкоду їхньому здоров’ю, руйнує їхнє життя та впливає на ціни житла в районі.

Також нагадаємо, що група дослідників з Університету штату Джорджія порівняла моральні судження студентів з судженнями великої мовної моделі. Відповіді ШІ у модифікованій версії морального тесту Тюрінга виявилися якіснішими.

Увесь інсайд та актуальна інформація на нашому Телеграм-каналі, а також бонуси та швидкі новини.