OpenAI вводит водяные знаки в текстах ChatGPT и Codex

По данным The Verge, OpenAI добавляет водяные знаки в текстовые выходные данные ChatGPT и Codex, начиная с пользователей в Европейском Союзе. Новая функция, названная textGrain, не станет глобальным стандартом на данный момент. OpenAI утверждает, что textGrain «соответствует или превосходит» другие подходы, такие как SynthID от Google DeepMind, который также лег в основу водяных знаков, объявленных Anthropic в августе. Подобно OpenAI, Anthropic приняла этот шаг для соответствия требованиям Закона о ИИ ЕС, однако не все были довольны добавлением водяных знаков. Компания также представила результаты тестов, показывающие схожую производительность текстов с водяными знаками и без них. Тем не менее, OpenAI отмечает, что textGrain «не гарантирует надежное обнаружение» и что водяные знаки не подтверждают точность, не определяют, кто является владельцем текста, не измеряют вклад человека и не доказывают авторство человека. Введение водяных знаков в ЕС начнется в ближайшие недели для пользователей ChatGPT и Codex, но только для тех, кто соответствует требованиям. OpenAI не планирует делать водяные знаки глобальным стандартом при запуске, чтобы иметь возможность учиться на реальном использовании и получать обратную связь. Клиенты API по всему миру смогут включить водяные знаки в текстовые выходные данные для определенных моделей. Это позволит клиентам решать, как водяные знаки соответствуют их обязательствам по прозрачности и опыту, который они предоставляют пользователям. Также компания работает с облачными партнерами, чтобы сделать водяные знаки доступными для выходных данных моделей OpenAI, получаемых через их сервисы в ближайшие недели. Исследователи и экспертные организации смогут подать заявки на доступ к инструменту, который будет сообщать, обнаружен ли водяной знак OpenAI, не идентифицируя пользователя и не раскрывая их запросы или беседы. Учитывая риск пропуска водяных знаков и ложных срабатываний, инструмент не будет доступен для широкой публики при запуске. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.