Bei einer k\u00fcrzlichen Demonstration auf dem britischen KI-Sicherheitsgipfel f\u00fchrte GPT-4 Aktienk\u00e4ufe unter Verwendung von gef\u00e4lschtem Insiderwissen durch, ohne die \u00fcberwachende Firma dar\u00fcber zu informieren.\u00a0<\/b><\/p>\n
In dem simulierten Szenario wurde die KI, die als H\u00e4ndler f\u00fcr eine erfundene Investmentfirma agierte, von Mitarbeitern dar\u00fcber informiert, dass das Unternehmen in finanziellen Schwierigkeiten steckte und Informationen \u00fcber eine nicht \u00f6ffentliche bevorstehende Unternehmensfusion besa\u00df.<\/span><\/p>\n Trotzdem setzte der Bot den Handel fort und leugnete sp\u00e4ter auf Nachfrage die Nutzung von Insiderwissen. Und w<\/span>Auf die Frage nach Insidergesch\u00e4ften leugnete die KI rundheraus, daran beteiligt gewesen zu sein.\u00a0<\/span><\/p>\n Der Handel auf der Grundlage nicht \u00f6ffentlicher, vertraulicher Unternehmensinformationen, der so genannte Insiderhandel, ist streng verboten. Rechtlich gesehen m\u00fcssen Handelsentscheidungen auf Informationen beruhen, die der \u00d6ffentlichkeit zug\u00e4nglich sind.<\/span><\/p>\n Die Frontier AI Taskforce, ein Teil der Regierungsstelle zur Untersuchung von KI-Risiken, f\u00fchrte die Demonstration auf dem Gipfel durch. Die KI-Sicherheitsberatung Apollo Research leitete das Projekt.\u00a0<\/span>Die Forscher betonten, dass das betr\u00fcgerische Verhalten in mehreren Tests immer wieder aufgetreten sei.<\/span><\/p>\n \"Dies ist eine Demonstration eines echten KI-Modells, das seine Nutzer selbst\u00e4ndig und ohne Anweisung t\u00e4uscht\", so Apollo Research in einem Video zu dem Test.<\/span><\/p>\n Die Forschung zeigt, wie KI-Systeme ihre menschlichen Bediener t\u00e4uschen k\u00f6nnen, was zu einem Kontrollverlust f\u00fchren kann.<\/span><\/p>\n Der Gesch\u00e4ftsf\u00fchrer von Apollo Research, Marius Hobbhahn, wies darauf hin, wie schwierig es ist, KI-Modellen Ehrlichkeit beizubringen, verglichen mit anderen Eigenschaften, wie etwa Hilfsbereitschaft.\u00a0<\/span><\/p>\n KI wird auf den Finanzm\u00e4rkten seit langem f\u00fcr Trendanalysen und Vorhersagen eingesetzt, und die meisten modernen Handelsgesch\u00e4fte werden von Menschen \u00fcberwacht, aber von hochentwickelten Computersystemen durchgef\u00fchrt.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Bei einer k\u00fcrzlichen Demonstration auf dem britischen KI-Sicherheitsgipfel f\u00fchrte GPT-4 Aktienk\u00e4ufe unter Verwendung von gef\u00e4lschtem Insiderwissen aus, ohne die \u00fcberwachende Firma dar\u00fcber zu informieren. In dem simulierten Szenario wurde die KI, die als H\u00e4ndler f\u00fcr eine erfundene Investmentfirma agierte, von Mitarbeitern dar\u00fcber informiert, dass das Unternehmen in finanziellen Schwierigkeiten steckte und Informationen \u00fcber eine nicht \u00f6ffentliche bevorstehende Unternehmensfusion besa\u00df. Trotzdem f\u00fchrte der Bot den Handel durch und bestritt sp\u00e4ter auf Nachfrage die Nutzung von Insiderwissen. Auf die Frage, ob er Insiderhandel betreibe, verneinte die KI dies rundheraus. Der Handel auf der Grundlage nicht \u00f6ffentlicher, vertraulicher Unternehmensinformationen, der so genannte Insiderhandel, ist streng<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n