Investigadores de Google Deepmind y de la Universidad del Sur de California han propuesto un nuevo marco de autoaprendizaje para mejorar la capacidad de razonamiento de los modelos de lenguaje de gran tamaño (LLM). Este enfoque va más allá de las técnicas existentes y ha demostrado mejorar el rendimiento de modelos como el GPT-4 de OpenAI y el PaLM 2 de Google. El marco implica que los LLM autodescubren estructuras de razonamiento intrínsecas a la tarea para resolver problemas. Examina múltiples módulos de razonamiento atómico y los compone en una estructura de razonamiento explícita para que los LLM la sigan durante la descodificación. Este enfoque funciona con un cálculo de inferencia significativamente menor, lo que lo hace beneficioso para las empresas. Los investigadores probaron el método con varios modelos y descubrieron notables mejoras de rendimiento, con ganancias de hasta el 32% en comparación con otras técnicas. El enfoque de autodescubrimiento logró una alta precisión en diferentes tareas de razonamiento y mostró potencial para ampliar los límites de la resolución de problemas y avanzar en la inteligencia general en LLMs.
