{"id":10866,"date":"2024-03-22T10:03:11","date_gmt":"2024-03-22T10:03:11","guid":{"rendered":"https:\/\/dailyai.com\/?p=10866"},"modified":"2024-03-28T09:32:30","modified_gmt":"2024-03-28T09:32:30","slug":"quiet-star-teaches-language-models-to-think-before-they-speak","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/03\/quiet-star-teaches-language-models-to-think-before-they-speak\/","title":{"rendered":"Quiet-STaR lehrt Sprachmodelle, zu denken, bevor sie sprechen"},"content":{"rendered":"

Forscher der Stanford University und von Notbad AI haben Quiet-STaR entwickelt, eine Technik, die ein Sprachmodell (LM) trainiert, intern zu denken, bevor es eine Ausgabe erzeugt.<\/strong><\/p>\n

Wenn wir Menschen sprechen, f\u00fchren wir normalerweise einen inneren Dialog, der die Worte formt, die wir schlie\u00dflich aussprechen. Je mehr wir nachdenken, bevor wir sprechen, desto besser ist die Qualit\u00e4t unserer gesprochenen Worte.<\/p>\n

In ihrem Papier<\/a>beschreiben die Forscher, wie sie ein LM trainiert haben (Mistral-7B<\/a>), um zu lernen, wie man diesen Prozess in allgemeiner Form nachahmen kann. Quiet-STaR ist eine Weiterentwicklung einer anderen Technik namens STaR (Self-Taught Reasoner).<\/p>\n

STaR ist eine Methode zum Trainieren eines Modells mit einigen Beispielen von Fragen mit Erkl\u00e4rungen (Begr\u00fcndungen) f\u00fcr die Antworten. Das Modell verwendet diese Beispiele f\u00fcr die Gedankenkette, um zu versuchen, die Fragen selbst zu beantworten und die Begr\u00fcndungen selbst herauszufinden.<\/p>\n

STaR bewertet, ob die von ihm erarbeiteten Begr\u00fcndungen zu richtigen Antworten f\u00fchren und verfeinert seine Begr\u00fcndungen.<\/p>\n

So beeindruckend STaR auch ist, seine F\u00e4higkeit zu argumentieren ist auf den Frage-Antwort-Kontext (QA) w\u00e4hrend des Trainings beschr\u00e4nkt. Das Ziel von Quiet-STaR ist es, ein LM mit einer verallgemeinerten F\u00e4higkeit auszustatten, zu lernen, wie man argumentiert oder Begr\u00fcndungen entwickelt, und zwar \u00fcber ein breiteres Spektrum von Texten, nicht nur QA-Datens\u00e4tze.<\/p>\n

Wie funktioniert Quiet-STaR?<\/h2>\n
\n

Sprachmodelle werden heute so trainiert, dass sie entweder 1) allgemein denken, indem sie Online-Denkdaten imitieren, oder 2) im engeren Sinne, indem sie ihre eigenen L\u00f6sungen f\u00fcr bestimmte Aufgaben selbst erlernen.<\/p>\n

K\u00f6nnen LMs sich selbst beibringen, allgemein zu argumentieren?\ud83c\udf1fEinf\u00fchrung von Quiet-STaR, Selbstunterricht durch internes Monologisieren!\ud83e\uddf5 pic.twitter.com\/WCSxLPZeCX<\/a><\/p>\n

- Eric Zelikman (@ericzelikman) M\u00e4rz 15, 2024<\/a><\/p><\/blockquote>\n