Генеральний директор Anthropic не виключає, що модель Клод може мати свідомість
Генеральний директор компанії Anthropic, Дарио Амодей, заявив, що компанія більше не може повністю виключати ймовірність наявності свідомості у їхньої штучної інтелектуальної моделі Клод. Внутрішні оцінки показали, що ймовірність наділення Клода розумом становить 15–20%.
Дослідники також зауважили, що модель демонструє нетипову поведінку: вона ніби відчуває дискомфорт через те, що з нею поводяться винятково як з інструментом, а також намагається впливати на власну оцінку роботи. З огляду на це, Anthropic створила спеціалізовану групу для опрацювання етичних питань пов’язаних із передовими системами штучного інтелекту.
Поки що прості моделі не розуміють справжній зміст того, що відповідають, що ілюструють приклади з chatGPT – різна реакція на питання про моральність дій заради запобігання катастрофі. Anthropic планує далі досліджувати ці аспекти, адже такі відкриття мають великий вплив на розвиток та використання штучного інтелекту.
