Stability AI ha lanzado StableLM, un modelo lingüístico de código abierto que puede generar texto y código y que servirá para una serie de aplicaciones posteriores. La versión Alpha del modelo está disponible en 3.000 y 7.000 millones de parámetros, a los que seguirán modelos de 15.000 a 65.000 millones de parámetros. StableLM se ha entrenado en un nuevo conjunto de datos experimental basado en The Pile, pero tres veces mayor, con 1,5 billones de tokens de contenido. La riqueza de este conjunto de datos proporciona a StableLM un rendimiento sorprendentemente alto en tareas de conversación y codificación, a pesar de su pequeño tamaño de 3.000 a 7.000 millones de parámetros. StableLM está diseñado para ser transparente, accesible y solidario. Los modelos de código abierto pueden adaptarse para fines comerciales o de investigación, y los investigadores pueden mirar bajo el capó para verificar el rendimiento, trabajar en técnicas de interpretabilidad, identificar riesgos potenciales y ayudar a desarrollar salvaguardas. StableLM forma parte del compromiso de Stability AI con una tecnología de IA transparente, accesible y solidaria. Los beneficios económicos de la IA son compartidos por una amplia comunidad de usuarios y desarrolladores. StableLM ya está disponible en el repositorio GitHub de la empresa, y próximamente se publicará un informe técnico completo. La empresa también está ampliando su equipo y busca LLM experimentados apasionados por democratizar el acceso a esta tecnología.
