Исследование показало, что ChatGPT не уступает или превосходит студентов по девяти из 32 предметов

25 августа 2023 года

Университет искусственного интеллекта

Новые исследования показывают, что ChatGPT может превзойти учеников в определенных предметных областях, обманывая учителей и ускользая от детекторов ИИ. 

Исследование, проведенное под руководством Ясира Заки из Нью-Йоркского университета в Абу-Даби, показало, что ответы ChatGPT равны или превосходят качество ответов студентов в девяти из 32 предметов.

Примечательно, что чатбот набрал почти в два раза больше баллов, чем средний студент на курсе "Введение в государственную политику".

Однако в доспехах искусственного интеллекта были и изъяны: ChatGPT с трудом справлялся с заданиями, требующими "критического анализа". Не стоит забывать и о том, что в целом студенты-люди доминировали.

Несмотря на это, разрыв между работой, созданной ИИ и человеком, сокращается, что потенциально может иметь драматические последствия для сектора образования и систем человеческих знаний в целом

Интересно, что ChatGPT довольно плохо справлялся с заданиями, требующими навыков или знаний в области программирования и информатики, но отлично справлялся с социальными исследованиями, политикой и инженерным делом. 

AI
ChatGPT преуспел в инженерных темах, отмеченных здесь зеленым цветом. Источник: Природа.

32 предмета охватывали такие дисциплины, как информатика, математика, социология, психология, политология и бизнес. Кроме того, в ходе исследования были опрошены студенты и преподаватели из пяти стран - Бразилии, Индии, Японии, Великобритании и США, чтобы оценить их точку зрения на использование технологии в образовании. 

"Этим оценщикам не были известны ни источники этих ответов, ни цель оценивания", - говорит Заки.

"ChatGPT лучше справлялся с вопросами, требующими запоминания информации, но плохо справлялся с вопросами, требующими критического анализа", - говорит Заки.

Кроме того, исследователи обнаружили, что службы обнаружения ИИ плохо различают человеческие и сгенерированные ИИ ответы с коэффициентом успешности 95%.

Исследование настроений студентов и преподавателей в отношении ИИ в образовании выявило полярность в вопросе о том, является ли использование ИИ плагиатом или нет.  

Томас Ланкастер из Имперского колледжа Лондона высказал свое мнение о последствиях исследования. По его словам, полученные результаты выявляют недостатки в нынешнем подходе к университетским оценкам. "Если [с помощью ChatGPT] можно получить более точные ответы, это говорит о том, что в дизайне оценки есть недостатки".

Основные выводы

В этом многогранном исследовании изучалась эффективность ChatGPT и собиралась дополнительная информация о качественных мнениях о технологии. 

Вот основные выводы:

  1. Академическая успеваемость: Результаты ChatGPT были сопоставимы или превосходили результаты студентов университета по 9 из 32 курсов восьми дисциплин. 
  2. Отсутствуют алгоритмы обнаружения: Существующие алгоритмы, включая GPTZero, предназначенные для обнаружения текста, сгенерированного ChatGPT, в значительной степени неэффективны. Эти алгоритмы не только неправильно классифицируют человеческие ответы как сгенерированные ИИ, но и не могут правильно идентифицировать контент, созданный ChatGPT, как таковой. 
  3. Мнения студентов и преподавателей: Между студентами и преподавателями существует явное несоответствие этических последствий использования ChatGPT. Студенты в подавляющем большинстве случаев намерены использовать этот инструмент для работы в школе, в то время как преподаватели склонны рассматривать его использование как плагиат. 
  4. Глобальные перспективы: Опрошенные студенты и преподаватели из пяти стран (Бразилии, Индии, Японии, Великобритании и США) высказали разные мнения об этичности использования ChatGPT. Например, если студенты в Индии считают его использование для выполнения домашних заданий неэтичным, то студенты в Бразилии считают его этичным. Тем не менее, 94% студентов в обеих странах намерены использовать ChatGPT в учебных целях.

Роль искусственного интеллекта в образовании Это превратилось в бурлящую дискуссию, в которой учащиеся, возможно, лучше всего могут использовать технологию, в то время как преподаватели обновляют свое понимание.

Это привело к некоторым неловким ситуациям, например, когда профессор Техасской академии наук и искусств отказался отмечать свои классные работы, поскольку считал, что они сгенерированы ИИ.

Одно можно сказать наверняка: ИИ будет все прочнее внедряться в образование, как с положительной, так и с отрицательной стороны.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения