ChatRTX es una aplicación de demostración que te permite personalizar un modelo de lenguaje de gran tamaño (LLM) GPT conectado a tu propio contenido: documentos, notas, vídeos u otros datos. Al aprovechar la generación aumentada por recuperación (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener respuestas contextualmente relevantes con rapidez. Como todo se ejecuta localmente en tu PC o estación de trabajo Windows RTX, obtendrás resultados rápidos y seguros.
ChatRTX admite varios formatos de archivo, incluidos txt, pdf, doc/docx, jpg, png, gif y xml. Solo tienes que seleccionar la aplicación en la carpeta que contiene los archivos y se cargarán en la biblioteca en cuestión de segundos.
ChatRTX cuenta con un sistema de reconocimiento de voz automático que utiliza IA para procesar el lenguaje hablado y proporcionar respuestas de texto compatibles con varios idiomas. Solo tienes que hacer clic en el icono del micrófono y hablar con ChatRTX para empezar.
Deja que ChatRTX haga el trabajo: ordena tus álbumes de fotos con una simple búsqueda de texto o voz, manteniendo todo privado y sin complicaciones.
Simplemente descarga, instala y empieza a chatear de inmediato.
Plataforma | Windows |
GPU | GPU NVIDIA GeForce™ RTX serie 30 o 40 o GPU NVIDIA RTX™ Ampere o Ada Generation con al menos 8 GB de VRAM |
RAM | 16 GB o más |
SO | Windows 11 |
Controlador | 535.11 o posterior |
Tamaño del archivo | 12 GB |
La demostración técnica de ChatRTX se ha creado a partir del proyecto de referencia para desarrolladores TensorRT-LLM RAG disponible en GitHub. Los desarrolladores pueden usar esa referencia para desarrollar e implementar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.
Disfruta de un rendimiento de IA de nivel superior gracias a las GPU GeForce RTX™ y NVIDIA RTX™. Desde creatividad y productividad mejoradas hasta juegos increíblemente rápidos, lo último en potencia de IA en PC con Windows está en RTX.
Obtén más información sobre las herramientas de IA generativa para desarrolladores y las soluciones empresariales de NVIDIA aquí.