Anthropic, una empresa de IA, ha lanzado su último chatbot, Claude 2, que cuenta con un gran modelo lingüístico. Claude 2 supone una mejora con respecto al modelo anterior de Anthropic, Claude 1.3, con mayores capacidades de codificación y una ventana de contexto más amplia. Sin embargo, al igual que los modelos de OpenAI, Claude 2 sigue mostrando un sesgo estereotipado y genera información falsa. Anthropic, fundada por antiguos empleados de OpenAI, pretende desarrollar potentes sistemas de IA para probar y mejorar futuros modelos. Para entrenar a Claude 2, Anthropic utilizó una gran cantidad de texto y empleó aprendizaje por refuerzo con retroalimentación humana y técnicas constitucionales de IA. Claude 2 obtuvo mejores resultados que su predecesor en varias pruebas de referencia, pero las mejoras fueron marginales. Desarrollar grandes modelos de IA puede ser costoso, pero incluso pequeñas mejoras pueden ser significativas en determinadas aplicaciones. Las comparaciones entre Claude 2 y GPT-4 de OpenAI sugieren que están más o menos en la misma liga, con GPT-4 ligeramente por delante. Anthropic reconoce la presencia de sesgos en Claude 2 y está trabajando para solucionarlos.
