Nvidia ha publicado una versión preliminar de Chat with RTX, una aplicación de demostración que permite a los usuarios ejecutar un chatbot de IA personal en su PC. La aplicación puede analizar vídeos de YouTube y documentos personales para proporcionar resúmenes y respuestas relevantes basadas en los datos del usuario. Requiere una GPU de la serie RTX 30 o 40 con al menos 8 GB de VRAM. Aunque la aplicación aún está un poco en bruto, tiene potencial para convertirse en una valiosa herramienta de investigación de datos, sobre todo para periodistas y análisis de documentos. Chat con RTX puede buscar en transcripciones de vídeo y resumir vídeos enteros, aunque hay algunos fallos en la versión actual. También puede escanear archivos PDF y verificar datos de forma rápida y eficaz. Sin embargo, la aplicación aún está en sus primeras fases y parece una demo para desarrolladores. Instala un servidor web y una instancia de Python en el PC del usuario y utiliza los núcleos Tensor de Nvidia en una GPU RTX para realizar consultas más rápidas. El proceso de instalación dura unos 30 minutos y la aplicación es bastante grande. Existen problemas y limitaciones conocidos, como la atribución inexacta de fuentes y la incapacidad de recordar el contexto para preguntas de seguimiento. A pesar de sus limitaciones, Chat with RTX muestra el potencial de los chatbots de IA que se ejecutan localmente en los PC, proporcionando una alternativa a los servicios basados en suscripción para el análisis de archivos personales.
