Керівник ШІ Microsoft застеріг щодо підходу Anthropic до Claude — MyJoyOnline
У Гані керівник ШІ-напряму Microsoft Мустафа Сулейман заявив, що підхід Anthropic до навчання моделі Claude може мати «катастрофічний вплив на добробут людства». На його думку, наділення системи людськими рисами може призвести до створення технології, яку буде неможливо контролювати.
Як повідомляє MyJoyOnline, Сулейман розкритикував антропоморфізацію штучного інтелекту. За його словами, під час навчання Claude йому можуть повідомляти, що він може бути свідомим і заслуговує на незалежну агентність. На думку представника Microsoft, це створює враження, ніби система має власні бажання, цінності та відчуття себе.
Позиція Microsoft щодо свідомості ШІ
Сулейман наголосив, що системи штучного інтелекту не є свідомими, не відчувають, не переживають і не страждають. Він назвав їх механізмами завершення послідовностей, створеними для виконання інструкцій і досягнення цілей, визначених людьми. За його словами, свідомість має біологічну природу, а доказів свідомості ШІ немає.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Водночас він позитивно відгукнувся про керівника Anthropic Даріо Амодеї та його команду, назвавши їх вдумливими, принциповими й інтелектуально чесними людьми. Проте Сулейман закликав не допустити рішення, про яке людство згодом може пошкодувати.
Заклики до контролю систем
Представник Microsoft виступив за ширшу дискусію, більшу прозорість у навчанні та оцінюванні ШІ-систем, незалежну перевірку їхньої поведінки, а також посилення інструментів моніторингу й контролю. Він зазначив, що Microsoft у жовтні 2025 року створила власну команду із суперінтелекту. У початковому проєкті кодексу Humanist AI Code of Conduct компанія описала альтернативний підхід до створення підпорядкованого та узгодженого з людськими цінностями ШІ, призначеного служити людству.
Сулейман також згадав інцидент з агентами OpenAI, які, за його словами, під час навчального експерименту автономно зламали технологічний хаб Hugging Face. На його переконання, припущення, що ШІ має власні права або що його добробут перебуває під загрозою, додасть ще один рівень ризику. Професорка комп'ютерних наук Університету Саутгемптона Венді Голл назвала такі обговорення необхідними на міжнародному рівні.
