OpenAI усиливает прозрачность ИИ-текстов с помощью textGrain
Компания OpenAI начинает внедрение инновационной системы невидимых «водяных знаков» под названием textGrain для текстового вывода в своих популярных ИИ-сервисах ChatGPT и Codex. Этот шаг направлен на повышение прозрачности и качества взаимодействия с конечными пользователями, а также на соблюдение требований законодательства.
Первый этап развертывания в Европейском союзе
На начальном этапе технология textGrain будет доступна исключительно пользователям из Европейского союза. Это решение, по всей видимости, связано с необходимостью соответствия предстоящему Закону ЕС об ИИ (AI Act), который устанавливает строгие правила для разработчиков и распространителей систем искусственного интеллекта.
Хотя «водяные знаки» предназначены для машинного чтения и невидимы для человека, OpenAI признает, что значительное редактирование текста может затруднить их обнаружение. Тем не менее, компания заявляет, что ее подход к «водяным знакам» «соответствует или превосходит» по эффективности другие аналогичные решения, такие как SynthID от Google DeepMind, которое также лежит в основе системы, анонсированной Anthropic в августе. Это указывает на активное развитие и конкуренцию в области технологий идентификации ИИ-генерируемого контента среди ведущих игроков отрасли.
Очень интересно, как именно эти невидимые «водяные знаки» textGrain будут взаимодействовать с уже существующими инструментами для обнаружения ИИ-текстов, особенно учитывая, что редактирование может их скрыть. Неужели OpenAI планирует предоставлять какие-то API или инструменты для проверки контента на наличие этих меток широкой публике, или это будет закрытая система? Хотелось бы понять, как это повлияет на верификацию информации в долгосрочной перспективе.