Кембриджский словарь объявил слово "галлюцинация" словом года в 2023 году, присвоив ему новое значение, связанное с искусственным интеллектом.
Термин, традиционно ассоциирующийся с чувственным восприятием несуществующих вещей из-за состояния здоровья или употребления психоактивных веществ, теперь охватывает и феномен искусственного интеллекта, генерирующего ложную информацию.
Пользователи генеративных ИИ, таких как ChatGPT, Bard и Grok, уже знакомы (или должны быть знакомы) с галлюцинациями, которые обычно возникают, когда модель пытается "заполнить пробелы" в своих знаниях, предсказывая что-то, что не является фактом или правдой.
Новое определение галлюцинаций гласит: "Когда искусственный интеллект (= компьютерная система, обладающая некоторыми качествами, присущими человеческому мозгу, например, способностью создавать язык таким образом, чтобы он казался человеческим) галлюцинирует, он производит ложную информацию".
Кембриджский словарь #WordOfTheYear2023 это... 🥁
'hallucinate' (глагол): Когда искусственный интеллект галлюцинирует, он выдает ложную информацию.
🏆 Узнайте больше о 1TP5Тхаллюцинат ⬇️ https://t.co/R3dLwBfN0V#CambridgeWOTY pic.twitter.com/Z8nRw9IfHI
- Кембриджский словарь (@CambridgeWords) 15 ноября 2023 года
Это изменение также иллюстрирует растущую роль ИИ в нашей повседневной жизни и последующие культурные изменения.
Несмотря на развитие генеративных моделей ИИ, надежность их результатов остается под пристальным вниманием, поскольку иногда они могут давать неточную или бессмысленную информацию.
Известно множество громких случаев, когда люди полагались на ИИ, не перепроверяя его результаты, а потом выяснялось, что это галлюцинация. Один из ярких примеров связан с американским адвокатом, который включали в себя изготовленные корпуса в юридической записке, поданной от имени истца.
Кроме того, ИИ-чатбот Bard компании Google был замешан в фактической ошибке, касающейся космического телескопа Джеймса Уэбба, которая была допущена во время живой демонстрации.
Вендалин Николс (Wendalyn Nichols), менеджер по изданию Cambridge Dictionary, подчеркнула важность человеческого контроля при использовании ИИ, заявив: "Тот факт, что ИИ может "галлюцинировать", напоминает нам, что люди все еще должны использовать свои навыки критического мышления при работе с этими инструментами. ИИ прекрасно справляется с обработкой огромных массивов данных для извлечения конкретной информации и ее обобщения. Но чем более оригинальными вы их просите быть, тем больше вероятность того, что они сбиваются с пути".
Тот факт, что мы присвоили ИИ определение, связанное с нашим собственным человеческим опытом, "галлюцинации", лингвистически интригует.
Доктор Генри Шевлин, специалист по этике ИИ из Кембриджского университета, отметил, что это пример того, как мы антропоморфируем технологию ИИ, чтобы понять ее через наш человеческий опыт.
Шевлин сказал: "Широкое использование термина "галлюцинировать" для обозначения ошибок таких систем, как ChatGPT, представляет собой [...] интересный снимок того, как мы антропоморфируем ИИ".
Новые термины по искусственному интеллекту и технологиям в Кембриджском словаре
Помимо "галлюцинировать", в Кембриджский словарь добавил несколько других терминов, связанных с искусственным интеллектом и технологиями:
- Оперативное проектирование: Разработка подсказок для оптимальных ответов ИИ.
- Большая языковая модель (LLM): Математические языковые представления, основанные на обширных данных, позволяющие создавать человекоподобные языки.
- GenAI: Сокращение от генеративного ИИ, охватывающее ИИ, создающие текст, изображения и т. д.
- Поезд: В машинном обучении разработка или усовершенствование системы путем ввода данных.
- Черная коробка: Системы, которые работают без прозрачных для пользователя процессов.
Эти дополнения, наряду с такими терминами, как "shadowban", "vibe check", "water neutral" и "range anxiety", показывают, как современный язык развивается вокруг возникающих технологических тем и тенденций, что происходит уже несколько десятилетий.
