ChatGPT to start marking texts with invisible watermarks

OpenAI в ближайшие недели начнет добавлять невидимые водяные знаки в текстовые ответы ChatGPT и Codex в Евросоюзе. Маркировка поможет определить, использовались ли инструменты компании при создании текста, говорится в сообщении OpenAI. На первом этапе нововведение затронет пользователей всех тарифных планов в ЕС, но будет применяться только к текстам, подходящим для маркировки. Вводить ее по умолчанию во всем мире компания пока не планирует. Клиенты API — интерфейса для подключения моделей к сторонним сервисам — уже могут добровольно включить водяные знаки для отдельных моделей независимо от страны. Как работает маркировка Технология OpenAI под названием textGrain незаметно корректирует выбор слов и их частей при генерации ответа. В результате в тексте возникает статистический рисунок, который может распознать специальный детектор. Для читателя водяной знак невидим: система не добавляет скрытые символы, необычные пробелы или знаки препинания. Маркировка встроена в сам подбор слов и может сохраняться при копировании текста. По данным компании, ее влияние на скорость работы моделей незначительно, а тесты не выявили существенного ухудшения качества ответов. Кто сможет проверить текст На старте детектор не будет общедоступным. Доступ к нему предоставят одобренным исследователям и экспертным организациям, которые помогут оценить надежность технологии. При этом обнаруженный водяной знак не раскрывает личность пользователя, его запросы или переписку. Он также не показывает, какой вклад внес человек в подготовку текста, и не подтверждает достоверность информации. Проверка может ошибаться OpenAI признает ограничения технологии. Короткие тексты и ответы с небольшим выбором формулировок сложнее проверять. Существенная редактура, пересказ или перевод могут ослабить маркировку и сделать ее незаметной для детектора. Поэтому отсутствие водяного знака не доказывает, что текст написал человек. Система также может ошибочно обнаружить маркировку там, где ее нет. В OpenAI объяснили внедрение необходимостью соблюдать европейский закон об искусственном интеллекте — EU AI Act, предусматривающий машиночитаемую маркировку сгенерированного контента.The post ChatGPT начнет помечать тексты невидимыми водяными знаками appeared first on Kursiv Media Казахстан.