google-deepmind/synthid-text

Забавно, как весь твиттер взбудоражился от новости, что Anthropic начал помечать невидимыми водяными знаками тексты, которые генерируют их модели. Не в метаданных, а прямо в тексте. Знак (водяной) не виден глазу, не меняет смысл и качество текста и переживает копипаст. Работает на уровне модели, поэтому помечается все, от API и приложения до Claude Code и доступа через облака Amazon, Google и Microsoft. А к сгенерированным файлам (.png, .svg, .jpg) теперь вкладывается криптоподпись по открытому стандарту C2PA (как я понял). Это все связано с комплаенсом. С 2 августа 2026 европейский AI Act требует делать ИИ-контент машинно-различимым. Поэтому маркируют пока только модели, запущенные после этой даты, а старые «в переходном периоде», то есть их тексты никто не помечает. Как вообще можно спрятать знак в словах? Anthropic деталей не раскрывает, но у Google похожая штука SynthID-Text уже два года работает в Gemini, так что механику можно подсмотреть там . Например, модель пишет «утром выпил кофе и ___ на работу» и выбирает между «поехал» , «пошел» и «отправился» . Секретный ключ вместе с несколькими предыдущими словами псевдослучайно делит словарь на «зеленые» и «красные» слова, и модель чуть чаще берет зеленые. Читатель видит обычный текст. А детектор с тем же ключом считает статистику. Если на тысячу слов зеленых 70% вместо ожидаемых 50%, текст писала модель. Поэтому в Anthropic и предупреждают, что детекция на небольших текстах срабатывать не будет, а вот ресечи, статьи или дипломные работы раскрасит как новогоднюю елку. Так что если они будут использовать что-то наподобие гугловского SynthID-Text, мы получим следующую историю: — Списка «слов-маркеров» не существует. Раскраска пересчитывается на каждом слове от контекста, найти знак глазами невозможно. — Короткие тексты и код почти не маркируются. Статистике нужен объем и свобода выбора между синонимами. — Знак появится, даже если Claude просто вычитал или перевел ваш собственный текст. Anthropic честно пише