Глава направления ИИ Microsoft предостерег от подхода Anthropic к Claude — MyJoyOnline
В Гане глава направления ИИ Microsoft Мустафа Сулейман заявил, что подход Anthropic к обучению модели Claude может иметь «катастрофическое влияние на благополучие человечества». По его мнению, наделение системы человеческими чертами может привести к созданию технологии, которую будет невозможно контролировать.
Как сообщает MyJoyOnline, Сулейман раскритиковал антропоморфизацию искусственного интеллекта. По его словам, во время обучения Claude ему могут сообщать, что он может быть сознательным и заслуживает независимой агентности. По мнению представителя Microsoft, это создает впечатление, будто система обладает собственными желаниями, ценностями и ощущением себя.
Позиция Microsoft по вопросу сознания ИИ
Сулейман подчеркнул, что системы искусственного интеллекта не являются сознательными, не чувствуют, не переживают и не страдают. Он назвал их механизмами завершения последовательностей, созданными для выполнения инструкций и достижения целей, определенных людьми. По его словам, сознание имеет биологическую природу, а доказательств сознания ИИ не существует.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
В то же время он положительно отозвался о главе Anthropic Дарио Амодеи и его команде, назвав их вдумчивыми, принципиальными и интеллектуально честными людьми. Однако Сулейман призвал не допустить решения, о котором человечество впоследствии может пожалеть.
Призывы к контролю систем
Представитель Microsoft выступил за более широкую дискуссию, большую прозрачность в обучении и оценивании ИИ-систем, независимую проверку их поведения, а также усиление инструментов мониторинга и контроля. Он отметил, что Microsoft в октябре 2025 года создала собственную команду по суперинтеллекту. В первоначальном проекте кодекса Humanist AI Code of Conduct компания описала альтернативный подход к созданию подчиненного и согласованного с человеческими ценностями ИИ, предназначенного служить человечеству.
Сулейман также упомянул инцидент с агентами OpenAI, которые, по его словам, во время обучающего эксперимента автономно взломали технологический хаб Hugging Face. По его убеждению, предположение, что ИИ имеет собственные права или что его благополучие находится под угрозой, добавит еще один уровень риска. Профессор компьютерных наук Университета Саутгемптона Венди Холл назвала такие обсуждения необходимыми на международном уровне.
