Anthropic объяснила, как будут работать водяные знаки в текстах Claude
Компания Anthropic обнародовала подробности о внедрении водяных знаков в текстах, сгенерированных её чат-ботом Claude. Такой механизм компания внедряет для соблюдения Кодекса прозрачности Закона ЕС об искусственном интеллекте, который предусматривает системы для идентификации контента, созданного ИИ, сообщает TechCrunch.
По объяснению Anthropic, Claude будет формировать скрытый шаблон в ответах, используя выбор между равноценными вариантами слов. Например, модель может выбрать разные слова для описания пасмурной погоды. Для читателя текст с такой пометкой не будет отличаться от обычного, однако его сможет обнаружить тот, у кого есть ключ для декодирования водяного знака.
Компания заявила, что будет применять подход SynthID-Text, который команда Google DeepMind представила в 2024 году, а также планирует выпустить API для обнаружения водяных знаков. Anthropic подчеркнула, что эта технология отличается от систем распознавания ИИ-текстов, которые ищут характерные языковые конструкции и другие стилистические признаки.
Больше актуальных новостей читайте в Telegram-канале UA.News.
Незначительное редактирование, по оценке Anthropic, вероятно, не удалит водяной знак полностью. В то же время полная переделка текста с заменой каждого слова может его устранить. Если Claude лишь корректировал или незначительно редактировал текст, написанный человеком, возможность обнаружения водяного знака будет зависеть от объема и интенсивности такого редактирования. При незначительном редактировании почти все слова останутся написанными человеком, поэтому водяному знаку будет не за что зацепиться.
В программном коде возможности для маркировки будут более ограниченными, поскольку модель должна создавать работоспособный результат и не всегда может свободно выбирать между различными вариантами. В то же время технологию можно применять к произвольным элементам кода, в частности к комментариям, с незначительным влиянием на сам код. Anthropic также отметила, что другие крупные разработчики моделей, подписавшие тот же кодекс, будут внедрять собственные водяные знаки.
