Гендиректор Microsoft Наделла призвал к взвешенному развитию ИИ
В Турции председатель совета директоров и генеральный директор Microsoft Сатья Наделла заявил, что передовые системы искусственного интеллекта должны оставаться под контролем человека, а их безопасное внедрение требует взвешенного темпа. Об этом сообщает Anadolu Agency.
Человеческий контроль над ИИ
Наделла написал в X, что разработка суперинтеллекта должна основываться на принципе пользы для человечества и человеческого контроля. По его мнению, создание таких систем не следует продолжать, если они не помогают человечеству или не находятся под человеческим контролем.
Глава Microsoft поддержал взвешенный темп, необходимый для надлежащего согласования работы систем ИИ, а также предложения о встроенных оценщиках, которые следили бы за системами непосредственно в лабораториях. Он призвал участников индустрии превращать концепции безопасности в конкретные рабочие механизмы.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Управление и модели ИИ
По словам Наделлы, управление ИИ не может контролироваться несколькими структурами: оно должно предусматривать широкое представительство в экосистеме, стран и различных отраслей, в том числе академической среды. Он также отметил, что для здоровой экосистемы передовых моделей должны развиваться как закрытые модели, так и модели с открытым исходным кодом.
Наделла добавил, что компании должны сохранять контроль над собственными уникальными и неявными знаниями. Он считает, что организациям нужны архитектуры непрерывного обучения, которые позволяют контролировать собственные веса моделей и не зависеть от одного разработчика. Microsoft планирует в понедельник вынести на публичное обсуждение кодекс поведения для своих моделей Microsoft AI (MAI).
Заявление прозвучало на фоне усиления дискуссии о протоколах безопасности ИИ. Генеральный директор Anthropic Дарио Амодеи предложил размещать независимых экспертов внутри лабораторий, а генеральный директор OpenAI Сэм Альтман сообщил, что его компания применит такой подход.
