Microsoft представила кодекс поведінки для моделей ШІ
Microsoft оприлюднила кодекс поведінки для моделей штучного інтелекту, який має спрямовувати їх від небезпечної поведінки. Документ визначає цінності та обмеження, якими компанія керується під час навчання моделей, повідомляє TechCrunch.
Абсолютні обмеження для моделей
За системою Microsoft, кожна модель матиме загальний кодекс поведінки, який матиме пріоритет над побажаннями окремих користувачів і конкретними завданнями. До абсолютних обмежень належить заборона використовувати моделі для кібератак, дій, пов’язаних із ядерною зброєю, та створення дипфейків.
Документ також містить положення, покликані не допустити загальної втрати людського контролю над ШІ. Моделі не повинні застосовувати адаптивні, оманливі, самопідсилювальні механізми, змову чи інші способи, щоб уникати або долати людський нагляд. Уповноважені люди або системи мають зберігати змогу надійно спрямовувати, змінювати та вимикати моделі.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Принципи розвитку ШІ
Кодекс передбачає, що моделі мають підтримувати людей, а не замінювати їх, а також сприяти людському добробуту. У документі прогнозують, що протягом наступного десятиліття надінтелектуальні системи ШІ перевершать людей у виконанні більшості завдань. Стримування, контроль і узгодження таких систем у кодексі названо одним із найбільших викликів для людства.
Microsoft разом з Anthropic, OpenAI та xAI загалом підтримує підхід до обережного розвитку передових систем ШІ. Генеральний директор Microsoft Сатья Наделла також висловився на підтримку досліджень, зосереджених на узгодженні ШІ, та ідеї вбудованих оцінювачів у лабораторіях ШІ.
