OpenAI hat die Ursache für ‘Halluzinationen’ in KI-Modellen identifiziert, bei denen sie sich falsche Antworten ausdenken. Dieses Problem, das sich mit fortschreitender Entwicklung der Modelle verschlimmert, untergräbt die Zuverlässigkeit der KI-Technologie. OpenAI’s Forschung legt nahe, dass Modelle halluzinieren, weil sie einen Anreiz haben, während des Trainings eher zu raten als Unsicherheit zuzugeben. Aktuelle Bewertungsmethoden belohnen das Raten eher als das Eingestehen mangelnden Wissens, was zu anhaltenden Halluzinationen führt. OpenAI schlägt eine Lösung vor: Zuversichtliche Fehler werden stärker bestraft als Ungewissheit und Unsicherheit wird teilweise anerkannt. Das Unternehmen glaubt, dass diese Anpassung die Anreize neu ausrichten und Halluzinationen verringern kann. Die Wirksamkeit dieses Ansatzes bleibt jedoch abzuwarten, da selbst das jüngste Modell von OpenAI, GPT-5, die Benutzer nicht durch seine geringeren Halluzinationen beeindruckt hat. Die KI-Industrie kämpft trotz erheblicher Investitionen und Umweltkosten weiterhin mit dieser Herausforderung. OpenAI setzt sich weiterhin für die Lösung dieses Problems ein und erkennt an, dass Halluzinationen eine grundlegende Herausforderung für alle großen Sprachmodelle darstellen.
