OpenAI утверждает, что разработала метод водяного знака, который точно распознает текст, написанный ChatGPT, но все еще обсуждает, стоит ли его выпускать.
Обнаружение текста, созданного искусственным интеллектом, стало всё труднее по мере того, как магистранты становятся все лучше в написании контента. Преподаватели сталкиваются с нелегкой задачей определить, выполняли ли их студенты задания самостоятельно или просто поручали их написание ChatGPT.
В обновлённая запись в блогеOpenAI сообщила, что "разработала метод водяного знака текста, который мы продолжаем рассматривать, изучая альтернативные варианты".
Компания утверждает, что метод отличается высокой точностью и устойчивостью к локальным вмешательствам, таким как перефразирование. Однако компания признает, что он не является надежным. Пропуск текста через систему перевода или использование другого LLM для перефразирования текста позволяет обойти эффективность водяного знака.
Если с помощью модели искусственного интеллекта вставить между каждым словом специальный символ, например эмодзи, а затем удалить его, водяной знак также станет бесполезным. Однако эти технические ограничения - не единственная причина, по которой компания до сих пор не выпустила эту функцию.
ChatGPT стал особенно полезным инструментом для написания текстов для людей, не являющихся носителями английского языка. OpenAI утверждает, что, согласно проведенным исследованиям, выпуск инструмента водяного знака может нанести непропорциональный ущерб таким группам и заклеймить их использование ИИ в качестве полезного инструмента для письма.
Альтернативные варианты текстовых метаданных
Инженеры OpenAI работают над тем, чтобы использовать метаданные в качестве метода подтверждения подлинности текста вместо водяных знаков. Изображения, созданные в DALL-E 3, уже имеют C2PA метаданные.
В OpenAI говорят, что пока рано говорить о том, насколько эффективным будет добавление метаданных в генерируемый ИИ текст, но у него есть ряд потенциальных преимуществ. Например, метаданные подписываются криптографически, поэтому риск ложных срабатываний исключен.
Проблема с использованием метаданных заключается в том, что их легко удалить. OpenAI не объяснила, как метаданные будут применяться к тексту, но удалить метаданные C2PA с изображений, созданных ИИ, очень просто.
Некоторые платформы социальных сетей удаляют метаданные при загрузке изображений, и простой скриншот изображения позволяет обойти C2PA. Будут ли подобные обходные пути эффективны в случае с текстом, сгенерированным искусственным интеллектом, с добавленными метаданными?
Если бы ChatGPT генерировал текст и добавлял к нему метаданные, вы могли бы сделать скриншот текста, загрузить его в ChatGPT, а он бы преобразовал изображение в текст. Прощайте метаданные.
Плохо для бизнеса
Другая причина, по которой OpenAI может не решаться выпустить инструмент, заключается в том, что он обнаруживает только текст, созданный ChatGPT. Если пользователи будут знать, что их контент, созданный искусственным интеллектом, будет легко обнаружен, они быстро перейдут с ChatGPT на другую платформу.
The Wall Street Journal сообщает что инструмент OpenAI был готов к выпуску уже год и оказался 99% эффективным. В отчете говорится: "Пытаясь решить, что делать, сотрудники OpenAI колеблются между заявленным стартапом стремлением к прозрачности и желанием привлечь и удержать пользователей".
Глобальный опрос, проведенный по заказу OpenAI, показал, что идею создания инструмента для обнаружения ИИ поддержали с перевесом 4 к 1. Однако внутренний опрос показал, что почти треть пользователей ChatGPT оттолкнет детектор ИИ-текста.
Пользователи хотят, чтобы контент, созданный искусственным интеллектом, был легко различим, если только он не создан ими самими.
