Несколько университетов, включая Вандербильт, Мичиганский государственный, Северо-Западный и Техасский университеты в Остине, воздерживаются от использования Turnitin, который обнаруживает сгенерированный искусственным интеллектом контент в студенческих работах.
Компания Turnitin, известная своими инструментами для обнаружения плагиата, в апреле представила функцию, позволяющую выявлять контент, написанный машиной.
Однако современные модели ИИ, такие как ГПТ-4 часто ускользает от обнаруженияИ часто подлинный контент, написанный человеком, ошибочно помечается как плагиат.
Последнее больше волнует колледжи и университеты, поскольку может привести к ложным обвинениям и даже юридическим последствиям.
Более того, исследования показывают, что те, кто говорит на английском языке как на родном второй язык или не являются носителями языка вероятность того, что их работы будут отмечены как созданные искусственным интеллектом, значительно выше.
При активации программы обнаружения ИИ оценивают документы, разбивая текст на части и выставляя оценки в зависимости от того, является ли содержание человеческим или сгенерированным ИИ.
Точность обнаружения искусственного интеллекта в Turnitin была поставлена под сомнение. Майкл Коли, консультант по учебным технологиям из Университета Вандербильта, отметил: "Есть еще один вопрос: как Turnitin обнаруживает искусственный интеллект и возможно ли это вообще. На сегодняшний день Turnitin не предоставляет никакой подробной информации о том, как он определяет, является ли часть письма сгенерированной искусственным интеллектом. Максимум, что они сказали, - это то, что инструмент ищет закономерности, характерные для ИИ-письма, но они не объясняют и не определяют, что это за закономерности".
Университет Вандербильта подчеркнул, что даже процент ложных срабатываний, составляющий менее одного процента, как утверждает Turnitin, может привести к тому, что ежегодно 750 работ будут неверно отмечены, учитывая, что в 2022 году они обработали 75 000 работ с помощью Turnitin.
Коули также выразил обеспокоенность по поводу конфиденциальности данных, заявив: "Существуют реальные проблемы с конфиденциальностью, связанные с получением данных о студентах и вводом их в детектор, управляемый внешней компанией с неясной политикой конфиденциальности и использования данных". Обнаружение ИИ - сложная задача, и ее сложность будет только возрастать по мере развития инструментов ИИ. Мы не считаем программное обеспечение для обнаружения ИИ эффективным инструментом".
Энни Чечителли, директор по продуктам компании Turnitin, подчеркнула, что их инструмент искусственного интеллекта не должен использоваться для автоматического наказания студентов.
Она заявила: "Мы в Turnitin руководствуемся тем, что невозможно заменить понимание стиля письма студента и его биографии. Наша технология не призвана заменить суждения преподавателей. Отчеты о присутствии ИИ в письменных работах призваны облегчить обсуждение с учащимися, а не делать выводы о нарушениях".
Будущие поколения моделей ИИ будут становиться все более изощренными и все лучше смогут обходить детекторы ИИ, которые уже раскрыли свои недостатки.
Роль искусственного интеллекта в образовании обязательно будет проверена в дальнейшем.
