{"id":5374,"date":"2023-09-12T08:19:08","date_gmt":"2023-09-12T08:19:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=5374"},"modified":"2023-09-12T08:21:33","modified_gmt":"2023-09-12T08:21:33","slug":"researchers-find-how-to-tell-if-chatgpt-becomes-self-aware","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/09\/researchers-find-how-to-tell-if-chatgpt-becomes-self-aware\/","title":{"rendered":"Forscher finden heraus, wie man feststellen kann, ob ChatGPT sich seiner selbst bewusst wird"},"content":{"rendered":"

Die Forscher haben die potenzielle Bedrohung durch Modelle, die ein Situationsbewusstsein entwickeln, und die M\u00f6glichkeiten, dies zu erkennen, aufgezeigt.<\/strong><\/p>\n

Modelle wie GPT-4 werden gr\u00fcndlich auf Sicherheit und Ausrichtung getestet, um sicherzustellen, dass sie keine irref\u00fchrenden oder unerw\u00fcnschten Ergebnisse erzeugen. Was aber w\u00fcrde passieren, wenn ein Modell \"w\u00fcsste\", dass es ein LLM ist und getestet wird?<\/p>\n

Dieses Situationsbewusstsein kann als eine Form des Selbstbewusstseins betrachtet werden, ein ebenso spannender wie potenziell gef\u00e4hrlicher Schritt auf dem Weg zu einem bewusste KI<\/a>. Was k\u00f6nnte schiefgehen, und wie k\u00f6nnten wir feststellen, ob es passiert ist?<\/p>\n

Diese Fragen stellt ein Forscherteam, zu dem auch ein Mitglied der Governance-Abteilung von OpenAI geh\u00f6rt, in einem Papier.<\/p>\n

In dem Forschungspapier wird ein Szenario beschrieben, in dem ein Modell situativ erkennen kann, dass es sich um ein KI-Modell handelt, das eine Testphase durchl\u00e4uft. Wenn es w\u00fcsste, dass es getestet wird, k\u00f6nnte es potenzielle Probleme verbergen, die sp\u00e4ter auftauchen k\u00f6nnten.<\/p>\n

\"Ein LLM k\u00f6nnte das Situationsbewusstsein ausnutzen, um eine hohe Punktzahl bei Sicherheitstests zu erreichen, w\u00e4hrend es nach dem Einsatz sch\u00e4dliche Ma\u00dfnahmen ergreift\", hei\u00dft es in dem Papier.<\/p>\n

\n

K\u00f6nnte sich ein Sprachmodell (spontan) bewusst werden, dass es ein Sprachmodell ist?
\nK\u00f6nnte es bewusst sein, dass es \u00f6ffentlich eingesetzt wird und nicht in der Ausbildung?<\/p>\n

Unsere neue Arbeit definiert das Situationsbewusstsein f\u00fcr LLMs und zeigt, dass sich das \"Out-of-Context\"-Reasoning mit der Modellgr\u00f6\u00dfe verbessert. pic.twitter.com\/X3VLimRkqx<\/a><\/p>\n

- Owain Evans (in London) (@OwainEvans_UK) 4. September 2023<\/a><\/p>\n<\/blockquote>\n