Forscher von Google Deepmind und der University of Southern California haben ein neues selbstentdeckendes Prompting-Framework vorgeschlagen, um die Argumentationsfähigkeiten von großen Sprachmodellen (LLMs) zu verbessern. Dieser Ansatz geht über bestehende Prompting-Techniken hinaus und verbessert die Leistung von Modellen wie OpenAI’s GPT-4 und Google’s PaLM 2. Der Rahmen sieht vor, dass LLMs aufgabeneigene Argumentationsstrukturen zur Problemlösung selbst entdecken. Es betrachtet mehrere atomare Argumentationsmodule und setzt sie zu einer expliziten Argumentationsstruktur zusammen, der LLMs bei der Dekodierung folgen können. Dieser Ansatz kommt mit deutlich weniger Rechenaufwand aus, so dass er für Unternehmen von Vorteil ist. Die Forscher testeten den Ansatz mit verschiedenen Modellen und stellten bemerkenswerte Leistungsverbesserungen fest, die sich im Vergleich zu anderen Techniken auf bis zu 32 % belaufen. Der Self-Discover-Ansatz erreichte eine hohe Genauigkeit bei verschiedenen Schlussfolgerungsaufgaben und zeigte das Potenzial, die Grenzen der Problemlösung zu erweitern und die allgemeine Intelligenz in LLMs zu fördern.
