Эндрю Рогойски назвал преждевременное доверие главным риском ИИ
Ближайшие риски искусственного интеллекта связаны не с появлением сверхразумной системы, которая начнет войну против человечества, а с преждевременным доверием к несовершенным моделям и предоставлением им контроля над критически важными процессами. Такое мнение в колонке для Live Science высказал физик и специалист по искусственному интеллекту Эндрю Рогойски.
Автор отмечает, что современные передовые модели хорошо справляются с написанием текстов, программированием и математическими задачами. В то же время, по его оценке, им не хватает свойств, необходимых для полезного общего искусственного интеллекта: последовательного рассуждения, долгосрочного планирования, фактической последовательности и надежной работы за пределами данных, на которых они обучались.
Зависимость от инфраструктуры
По мнению Рогойски, сценарии о всемогущем цифровом интеллекте, способном самостоятельно уничтожить человечество, отвлекают от более практических угроз. Системы ИИ зависят от электроэнергии, охлаждения, дата-центров, специализированных чипов, сетей, технического персонала и цепочек поставок. Во многих сценариях отключение питания, ограничение доступа к графическим процессорам, выключение охлаждения или сети остановит работу такой системы.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Вместо этого опасными могут быть системы с ограниченным пониманием, которым предоставили автономность и доступ к критической инфраструктуре. По мнению автора, они способны причинить вред не из-за намерения, а из-за узко поставленных целей и неспособности учесть более широкие последствия. В качестве примера Рогойски упоминает мысленный эксперимент Ника Бострома об ИИ, который стремится произвести как можно больше скрепок, игнорируя другие последствия выполнения такой задачи.
Киберриски и занятость
Рогойски считает двумя первоочередными опасностями кибератаки с применением ИИ и длительные экономические потрясения. Больницы, банки, энергетические сети, логистические компании и правительства зависят от взаимосвязанных цифровых систем, поэтому такие атаки могут нанести значительный финансовый ущерб и нарушить работу сервисов.
Еще одним риском автор называет преждевременное сокращение сотрудников компаниями, которые могут спутать убедительные демонстрации языковых моделей с их способностью выполнять надежную работу. Такой подход, по его оценке, может привести к потере накопленных знаний, ответственности, профессиональных связей и доверия внутри организаций. Рогойски предполагает, что масштабный инцидент в кибероперации с применением передового ИИ может вызвать сворачивание инвестиций в технологию и новую «зиму ИИ», когда финансирование и исследования сокращаются.
