ИИ может усложнить правительствам использование инструментов взлома — TechCrunch
Развитие искусственного интеллекта потенциально может сократить количество программных уязвимостей и усложнить правоохранительным и разведывательным органам взлом целей для слежки. Эту перспективу ранее в августе описал профессор криптографии Мэтью Грин, сообщает TechCrunch.
По мнению Грина, большие языковые модели могут все быстрее и в большем масштабе находить уязвимости в программном обеспечении. Если компании смогут исправлять беспрецедентно большое количество ошибок, правительство США может потерять доступ к слабым местам, которые использует для взлома объектов наблюдения.
Шифрование и правительственные инструменты
Правоохранительные органы давно заявляли, что распространение шифрования усложняет расследование преступлений и терроризма. Понятие «going dark» получило распространение в 2014 году, когда тогдашний директор ФБР Джеймс Коми предупреждал, что шифрование может препятствовать доступу властей к разговорам и данным на устройствах.
Впоследствии Signal, WhatsApp и iMessage внедрили сквозное шифрование для широкого круга пользователей, а Apple начала шифровать данные на своих устройствах по умолчанию. По оценке Грина, компромисс состоял в том, что правительства не требовали встроенных бэкдоров, а вместо этого вкладывали средства в приобретение инструментов взлома и шпионского программного обеспечения, способного обходить защиту устройств.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Оценки экспертов различаются
Исследовательница Луна Тонг, ранее работавшая в двух компаниях по поиску уязвимостей и разработке эксплойтов для правительств, согласилась с Грином. Она назвала нынешнюю ситуацию «золотой лихорадкой» в поиске багов, но считает это временным явлением.
В то же время несколько специалистов по наступательной кибербезопасности заявили, что ИИ облегчит поиск более простых ошибок, но не устранит более сложные и ценные уязвимости. Основатель DarkCell и сотрудник стартапа Xbow Хамид Кашфи предположил, что на каждую найденную ИИ и сообщенную разработчику уязвимость может приходиться около 20 несообщенных.
Директор по кибербезопасности Electronic Frontier Foundation Ева Гальперин отметила, что большее количество найденных багов не обязательно означает их быстрое исправление, поскольку этот процесс может быть сложным. Основательница Luta Security Кэти Муссурис также считает, что современные телефоны и ноутбуки все еще далеки от полного отсутствия ошибок. В то же время она предположила, что в будущем сложность поиска уязвимостей может усилить давление в пользу встроенных бэкдоров.
