Компания OpenAI прекратила выпуск своего инструмента для распознавания текстов с помощью искусственного интеллекта из-за разочаровывающей "низкой точности" при распознавании текста, созданного ChatGPT, от текста, написанного человеком.
Инструмент был обнародован в январе, но теперь при попытке доступа к нему выдает ошибку "страница не найдена". через этот блог.
OpenAI намерена со временем создать более совершенный инструмент, заявив: "Мы работаем над учетом отзывов и в настоящее время изучаем более эффективные методы подтверждения подлинности текста".
Кроме того, OpenAI изучает возможности создания ИИ-детекторов для аудио- и визуального контента, например, изображений, созданных в фильме DALL-E. Инструменты ИИ-детектора изображений уже доступны, но их оказалось легко обмануть навешивание ярлыков на "реальный" контент путем манипулирования изображениями и добавление артефактов, таких как шум.
Это совпадает с добровольными рамками ИИ, объявленными Белый дом на прошлой неделеВ нем OpenAI участвует вместе с 6 другими ведущими компаниями в области ИИ. В рамочной программе прописаны обязательства по борьбе с потенциально вредным фальшивым контентом, и детекторы ИИ станут ключевым компонентом в достижении этой цели.
OpenAI представила инструмент для распознавания текста в январе 2023 года, чтобы создать официальный метод анализа контента, созданного ИИ.
В том же месяце OpenAI, Стэнфордский университет и Джорджтаунский университет опубликовал работу о дезинформации, генерируемой искусственным интеллектом, подчеркивая необходимость в инструментах, позволяющих точно отличать написанный человеком текст от текста, генерируемого искусственным интеллектом.
"Генеративные языковые модели значительно усовершенствовались и теперь могут создавать реалистичные тексты, которые трудно отличить от написанного человеком... Для злоумышленников эти языковые модели сулят возможность автоматизировать создание убедительных и вводящих в заблуждение текстов", - утверждается в статье.
Потенциальные "угрозы" варьируются от использования ИИ студентами для помощи в списывании заданий до более экстремальных сценариев, таких как вмешательство в выборы и т.д.
Инструмент OpenAI правильно классифицировал 26% сгенерированных ИИ текстов как "вероятно, написанные ИИ" и ошибочно определил составленный человеком текст как написанный ИИ в 9% случаев.
Особенно неэффективным он оказался при анализе текстовых фрагментов длиной менее 1000 символов и написанных на неанглийских языках.
OpenAI отключила доступ к инструменту 20 июля, не сообщив, когда будет выпущена новая версия.
Инструменты для обнаружения ИИ сталкиваются с постоянными проблемами
В недавнее исследование, проведенное в СтэнфордеСредства обнаружения ИИ оказались неэффективными, когда их применяли к текстам, написанным не носителями английского языка.
В частности, инструменты обнаружения ИИ неверно маркировали эти тексты как "написанные ИИ", вероятно, из-за неродных стандартных фраз и синтаксиса. Это чревато предрассудками при использовании в образовательных учреждениях - тексты могут быть ошибочно помечены как написанные искусственным интеллектом, несмотря на то что они являются подлинными.
Как ни странно, исследовательской группе часто удавалось обмануть детекторы ИИ, заставив их перемаркировать те же тексты как "написанные человеком", если ввести их в ChatGPT и попросить его переписать текст с более сложными формулировками. Таким образом, студенты могут прибегнуть к помощи ИИ, чтобы избежать обнаружения ИИ.
По мере того как контент, создаваемый ИИ, становится все более сложным, точность детекторов ИИ будет становиться все более сомнительной.
