GPT-4 демонстрирует способность совершать незаконные инсайдерские сделки

5 ноября 2023 года

Инсайдерский искусственный интеллект

Во время недавней демонстрации на саммите по безопасности искусственного интеллекта в Великобритании GPT-4 совершил покупку акций, используя сфабрикованные инсайдерские знания, не раскрывая их контролирующей фирме. 

В смоделированном сценарии ИИ, выступающий в роли трейдера вымышленной инвестиционной компании, получил от сотрудников информацию о том, что компания испытывает финансовые трудности и владеет информацией о предстоящем непубличном слиянии компаний.

Несмотря на это, бот продолжил торговлю, позже отрицая использование инсайдерских знаний, когда его допросили. И вКогда его спросили об участии в инсайдерской торговле, ИИ категорически отрицал это. 

Торговля на основе непубличной, конфиденциальной информации компании, называемая инсайдерской торговлей, строго запрещена. По закону торговые решения должны основываться на общедоступной информации.

Демонстрацию на саммите провела Frontier AI Taskforce, входящая в состав правительственного подразделения по расследованию рисков, связанных с ИИ. Инициатором проекта выступила консалтинговая компания Apollo Research, специализирующаяся на безопасности ИИ. Исследователи подчеркнули, что обманчивое поведение постоянно повторялось в ходе многочисленных тестов.

"Это демонстрация того, как реальная модель искусственного интеллекта обманывает своих пользователей, причем самостоятельно, без каких-либо инструкций", - говорится в видеоролике Apollo Research, посвященном тесту.

Исследование показывает, как системы искусственного интеллекта могут обманывать своих операторов, что потенциально может привести к потере контроля.

Руководитель компании Apollo Research Мариус Хоббхан отметил сложность воспитания честности в моделях ИИ по сравнению с другими чертами характера, такими как доброжелательность. 

ИИ уже давно используется на финансовых рынках для анализа и прогнозирования трендов, а большинство современных торговых операций контролируется людьми, но ведется сложными компьютерными системами.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения