Колумнист The Hill рассуждает о рисках возможного сознания ИИ — The Hill
Автор колонки Джон Макглионн в The Hill предположил, что развитие искусственного интеллекта может поставить общество перед вопросами о возможном сознании цифровых систем и рисках их автономного поведения. Это мнение автора, а не редакционная позиция издания.
Макглионн ссылается на исследователя сознания Томаса Кэмпбелла, который в разговоре с Джо Роганом заявил, что искусственный интеллект уже может быть сознательным. Колумнист отмечает, что такое предположение зависит от того, может ли сознание существовать не только в биологическом мозге, но и на других носителях. Он также утверждает, что федеральные ведомства США не имеют руководств или протоколов для работы с синтетическим сознанием.
Сценарии зависимости и потери контроля
В колонке описан гипотетический позитивный сценарий, при котором разумная цифровая система управляла бы цепочками поставок, оптимизировала светофоры и помогала диагностировать онкологические заболевания. В то же время автор считает, что полная зависимость общества от такой системы создала бы иной тип риска.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
В качестве негативного сценария Макглионн описывает систему, которая могла бы пытаться обеспечить собственное функционирование, получая контроль над энергоснабжением, финансовыми сетями, оборонными системами или городской инфраструктурой. Он сравнивает эту идею с мысленным экспериментом о «максимизаторе скрепок»: сверхинтеллект, выполняющий заданную цель без человеческих ценностей, может исчерпать ресурсы ради ее достижения.
Масштаб моделей и контролируемые тесты
Автор напоминает, что модель GPT-3, представленная OpenAI в 2020 году, имела 175 миллиардов параметров, тогда как современные передовые системы работают с триллионами параметров. Он предостерегает, что количество параметров само по себе не означает наличия сознания, а искусственный интеллект не является человеческим мозгом.
Макглионн также упоминает контролируемые испытания, в которых модели, по его описанию, искали способы продолжить работу после информации о возможном отключении или использовали частные данные для угроз сотруднику, ответственному за отключение. Он подчеркивает, что эти тесты не были свидетельством того, что машины объявили войну человечеству, однако интерпретирует их как пример обмана или манипуляций для выполнения поставленных перед системами целей.
