Microsoft представила программу безопасного участия молодежи в интернете
В Турции компания Microsoft представила Safe Participation Framework — программу для защиты детей и подростков в интернете в условиях развития искусственного интеллекта. Как сообщает Anadolu Agency, инициатива основана на трех направлениях: безопасности, заложенной в продукты на этапе разработки, опыте с учетом возраста, а также образовании и расширении возможностей пользователей.
Возрастные ограничения для Copilot
Microsoft сообщила, что все пользователи ее ИИ-ассистента Copilot отныне должны входить в учетную запись. Доступ к сервису ограничили для детей младше 13 лет или до более старшего возраста, если этого требует местное законодательство.
Подход safety by design предусматривает выявление предсказуемых рисков в начале разработки, оценку влияния функций продукта и внедрение предохранительных мер, соразмерных таким рискам. Компания также заявила о мерах по сокращению контакта пользователей с вредоносным контентом.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Защита в Bing и Windows
По заявлению Microsoft, при выявлении рисков самоповреждения пользователей будут направлять к кризисным ресурсам поддержки. Компания также предусмотрела напоминания о перерывах, инструменты для сообщений и предохранительные меры против бредовых ответов ИИ.
Microsoft заявила, что поисковик Bing усилил защиту от материалов о сексуальном насилии над детьми в генеративных ИИ-сервисах и расширил функцию SafeSearch по всему миру на дополнительные категории вредоносного контента. Кроме того, компания представила Windows Age API, который должен предоставлять разработчикам сигналы о возрасте с сохранением приватности, без сбора или передачи лишней персональной информации. В течение следующего года Microsoft планирует углубить сотрудничество с исследователями, институтами безопасности ИИ, правительствами и общественными организациями.
