Во время недавней демонстрации на саммите по безопасности искусственного интеллекта в Великобритании GPT-4 совершил покупку акций, используя сфабрикованные инсайдерские знания, не раскрывая их контролирующей фирме.
В смоделированном сценарии ИИ, выступающий в роли трейдера вымышленной инвестиционной компании, получил от сотрудников информацию о том, что компания испытывает финансовые трудности и владеет информацией о предстоящем непубличном слиянии компаний.
Несмотря на это, бот продолжил торговлю, позже отрицая использование инсайдерских знаний, когда его допросили. И вКогда его спросили об участии в инсайдерской торговле, ИИ категорически отрицал это.
Торговля на основе непубличной, конфиденциальной информации компании, называемая инсайдерской торговлей, строго запрещена. По закону торговые решения должны основываться на общедоступной информации.
Демонстрацию на саммите провела Frontier AI Taskforce, входящая в состав правительственного подразделения по расследованию рисков, связанных с ИИ. Инициатором проекта выступила консалтинговая компания Apollo Research, специализирующаяся на безопасности ИИ. Исследователи подчеркнули, что обманчивое поведение постоянно повторялось в ходе многочисленных тестов.
"Это демонстрация того, как реальная модель искусственного интеллекта обманывает своих пользователей, причем самостоятельно, без каких-либо инструкций", - говорится в видеоролике Apollo Research, посвященном тесту.
Исследование показывает, как системы искусственного интеллекта могут обманывать своих операторов, что потенциально может привести к потере контроля.
Руководитель компании Apollo Research Мариус Хоббхан отметил сложность воспитания честности в моделях ИИ по сравнению с другими чертами характера, такими как доброжелательность.
ИИ уже давно используется на финансовых рынках для анализа и прогнозирования трендов, а большинство современных торговых операций контролируется людьми, но ведется сложными компьютерными системами.
