Anthropic, ein KI-Unternehmen, hat seinen neuesten Chatbot, Claude 2, veröffentlicht, der auf einem umfangreichen Sprachmodell basiert. Claude 2 ist eine Verbesserung gegenüber Anthropics Vorgängermodell, Claude 1.3, mit verbesserten Codierungsfähigkeiten und einem größeren Kontextfenster. Wie die Modelle von OpenAI weist Claude 2 jedoch immer noch stereotype Verzerrungen auf und erzeugt falsche Informationen. Das von ehemaligen OpenAI-Mitarbeitern gegründete Unternehmen Anthropic hat sich zum Ziel gesetzt, leistungsfähige KI-Systeme zu entwickeln, um zukünftige Modelle zu testen und zu verbessern. Um Claude 2 zu trainieren, verwendete Anthropic eine große Menge an Text und setzte Verstärkungslernen mit menschlichem Feedback und konstitutionellen KI-Techniken ein. Claude 2 schnitt bei verschiedenen Benchmarks besser ab als sein Vorgänger, aber die Verbesserungen waren nur marginal. Die Entwicklung umfangreicher KI-Modelle kann kostspielig sein, aber selbst kleine Verbesserungen können bei bestimmten Anwendungen von Bedeutung sein. Vergleiche zwischen Claude 2 und OpenAI’s GPT-4 deuten darauf hin, dass sie ungefähr in der gleichen Liga spielen, wobei GPT-4 leicht vorne liegt. Anthropic räumt das Vorhandensein von Verzerrungen in Claude 2 ein und arbeitet daran, diese zu beheben.
