Microsoft представила кодекс поведения для моделей ИИ
Microsoft опубликовала кодекс поведения для моделей искусственного интеллекта, который должен направлять их в сторону от опасного поведения. Документ определяет ценности и ограничения, которыми компания руководствуется при обучении моделей, сообщает TechCrunch.
Абсолютные ограничения для моделей
Согласно системе Microsoft, каждая модель будет иметь общий кодекс поведения, который будет иметь приоритет над пожеланиями отдельных пользователей и конкретными задачами. К абсолютным ограничениям относится запрет на использование моделей для кибератак, действий, связанных с ядерным оружием, и создания дипфейков.
Документ также содержит положения, призванные не допустить общей потери человеческого контроля над ИИ. Модели не должны использовать адаптивные, обманные, самоподкрепляющиеся механизмы, сговор или другие способы, чтобы избегать или преодолевать человеческий надзор. Уполномоченные люди или системы должны сохранять возможность надежно направлять, изменять и отключать модели.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Принципы развития ИИ
Кодекс предусматривает, что модели должны поддерживать людей, а не заменять их, а также способствовать человеческому благополучию. В документе прогнозируется, что в течение следующего десятилетия сверхинтеллектуальные системы ИИ превзойдут людей в выполнении большинства задач. Сдерживание, контроль и согласование таких систем названы в кодексе одной из величайших проблем человечества.
Microsoft вместе с Anthropic, OpenAI и xAI в целом поддерживает подход к осторожному развитию передовых систем ИИ. Генеральный директор Microsoft Сатья Наделла также высказался в поддержку исследований, сосредоточенных на согласовании ИИ, и идеи встроенных оценщиков в лабораториях ИИ.
