Что такое «детектор текстовых водяных знаков»?

Нейросеть ChatGPT начнет добавлять невидимые водяные знаки на сгенерированные материалы в течение ближайших двух недель. Об этом говорится в сообщении компании OpenAI.

Отмечается, что речь идет о текстовых материалах ChatGPT и Codex на территории Европейского союза. С 5 октября все пользователи нейросетей смогут включить отображение текстовых водяных знаков для некоторых моделей искусственного интеллекта. По умолчанию эта опция будет отключена.

Исследователи и экспертные организации, по словам представителей OpenAI, в индивидуальном порядке получат доступ к детектору текстовых водяных знаков. Принятые меры отражают требования Евросоюза в части идентификации текста с помощью машинного чтения, а также «обеспечивают прозрачность», заявили разработчики.

Модель будет выбирать отдельные слова, а технология водяных знаков textGrain добавит к ним невидимые стилистические сигналы. Детектор будет искать данные сигналы и определять, были ли они созданы OpenAI.

Ранее сообщалось, что OpenAI в октябре начнет внедрять новый формат визуальной рекламы при генерации изображений в ChatGPT. На первом этапе эксперимент пройдет в США с участием ограниченного числа рекламодателей.