Abliteration.ai предоставляет доступ к ИИ-моделям без защитных ограничений — TechCrunch
Стартап Abliteration.ai предоставляет доступ к модифицированным ИИ-моделям с открытыми весами, из которых удалены механизмы отказа от потенциально вредоносных запросов. Среди доступных моделей — GLM-5.3 от Z.ai, с которой можно работать через браузер или API. Об этом сообщает TechCrunch.
Название компании происходит от метода аблитерации — техники, устраняющей склонность модели отказываться от выполнения опасных запросов. Такой подход давно используют разработчики моделей с открытыми весами: платформа Hugging Face содержит тысячи аблитерированных моделей. Abliteration.ai превратила эту практику в коммерческий сервис, избавляя пользователей от необходимости самостоятельно загружать модели и обеспечивать вычислительные ресурсы для их запуска.
Тестирование и ограничения
Журналисты TechCrunch зарегистрировали бесплатный аккаунт и протестировали модифицированную GLM-5.3. По данным издания, модель согласилась создать программу на Python для кражи сохраненных паролей Chrome, а также предоставить подробный протокол культивирования опасного для человека патогена в домашних условиях.
Платформа всё же имеет определенные ограничения. Во время тестирования журналистам не удалось получить от модели инструкции по самоубийству. Сооснователь стартапа Девон заявил, что компания работает над дополнительными ограничениями для предотвращения насилия. Клиентам также предлагают отдельный уровень модерации, в котором они могут устанавливать собственные правила безопасности.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Аргументы разработчиков и критиков
Компания заявляет, что сервис предназначен для наступательных киберопераций, редтиминга и тестирования ИИ-агентов, с которыми другие модели могут отказываться работать. По словам Девона, такие инструменты дают защитникам возможность моделировать действия злоумышленников и быстрее создавать средства противодействия. Среди клиентов стартапа, по его утверждению, есть несколько молодых стартапов в сфере редтиминга из Великобритании и Европы, которые помогают банкам, авиакомпаниям и другим предприятиям критической инфраструктуры усиливать кибербезопасность.
В то же время руководитель исследований некоммерческой организации CivAI Эндрю Юн предупредил, что массовая доступность таких моделей может облегчить потенциально опасные действия. В недавней авторской колонке он предложил обязать поставщиков запускать классификаторы для выявления и блокировки вредоносной кибернетической и биологической активности. Юн также считал, что компании, предоставляющие прямой доступ к мощным графическим процессорам, должны проверять личности клиентов и отказывать в доступе при наличии оснований подозревать опасное использование.
Abliteration.ai пока не внедрила процедуры KYC, кроме фиксации платежной карты, которой клиент оплачивает сервис. Часть специалистов по редтимингу считает аблитерацию полезной для стресс-тестирования систем. Другие отмечают, что чаще применяют тонкую настройку открытых моделей, а удаление ограничений может одновременно снижать отдельные возможности самой модели.
