Nvidia telah merilis versi awal Chat with RTX, sebuah aplikasi demo yang memungkinkan pengguna untuk menjalankan chatbot AI pribadi di PC mereka. Aplikasi ini dapat menganalisis video YouTube dan dokumen pribadi untuk memberikan rangkuman dan jawaban yang relevan berdasarkan data pengguna. Aplikasi ini membutuhkan GPU seri RTX 30 atau 40 dengan setidaknya 8GB VRAM. Meskipun aplikasi ini masih agak kasar di bagian tepinya, aplikasi ini memiliki potensi untuk menjadi alat yang berharga untuk penelitian data, terutama untuk jurnalis dan analisis dokumen. Chat dengan RTX dapat mencari melalui transkrip video dan meringkas seluruh video, meskipun ada beberapa bug dalam versi saat ini. Aplikasi ini juga dapat memindai PDF dan memeriksa data dengan cepat dan efisien. Namun, aplikasi ini masih dalam tahap awal dan terasa seperti demo pengembang. Aplikasi ini memasang server web dan contoh Python pada PC pengguna dan menggunakan inti Tensor Nvidia pada GPU RTX untuk kueri yang lebih cepat. Proses instalasi memakan waktu sekitar 30 menit dan aplikasi ini berukuran cukup besar. Ada beberapa masalah dan keterbatasan yang diketahui, seperti atribusi sumber yang tidak akurat dan ketidakmampuan untuk mengingat konteks untuk pertanyaan lanjutan. Terlepas dari keterbatasannya, Chat with RTX menampilkan potensi chatbot AI yang berjalan secara lokal di PC, memberikan alternatif untuk layanan berbasis langganan untuk analisis file pribadi.
