NVIDIA’s ChatRTX: El Chatbot de IA en Dispositivo Ahora Soporta Google Gemma y ChatGLM3 potenciando la Interacción Humano-Computadora.
La última actualización de NVIDIA ChatRTX, que ahora incluye la integración de Google Gemma y ChatGLM3, está transformando la interacción humano-computadora.
Mejoras en el Reconocimiento de Imágenes y Entrada de Voz
La tercera actualización para la aplicación ChatRTX de NVIDIA ha llegado. Añade nuevas capacidades de reconocimiento de imágenes, funcionalidad de entrada de voz y una amplia selección de LLMs de código abierto.
¿Qué es NVIDIA ChatRTX?
NVIDIA ChatRTX, anteriormente conocido como «Chat with RTX», es un chatbot de IA personalizable que puede ejecutarse localmente en PCs con Windows. Actúa como una especie de asistente personal, respondiendo preguntas sobre documentos, notas y otros archivos en tu computadora sin ninguna interacción en la nube. También puede resumir videos de YouTube, lo que puede ser útil cuando quieres obtener una receta o seguir un tutorial sin escuchar a alguien divagar durante 15 minutos. (Sin embargo, el escaneo de YouTube no ha estado disponible desde el parche de seguridad 0.2).
Novedades en la Versión Más Reciente
Una de las cosas interesantes sobre ChatRTX es su capacidad para ejecutar una variedad de LLMs. ChatRTX se lanzó con soporte para Mistral y Llama 2, aunque ahora también es compatible con Google Gemma (una variante liviana de Gemini) y ChatGLM3 (un LLM en inglés y chino basado en el framework GLM). Cada uno de estos LLMs está diseñado para tareas específicas, de ahí la necesidad de variedad.
La nueva versión de ChatRTX también presume de integración con Whisper y Open AI CLIP. Mientras que Whisper añade reconocimiento de voz basado en IA para entrada de voz, CLIP mejora las capacidades de reconocimiento de imágenes de ChatRTX. Por ejemplo, un fotógrafo puede usar ChatRTX para encontrar y organizar un montón de imágenes sin etiquetar.
¿Qué Ofrece ChatRTX?
Es importante aclarar que ChatRTX aún se considera un «demo técnico». Es un ejemplo de lo que los desarrolladores pueden construir utilizando el proyecto de referencia de código abierto TensorRT-LLM RAG, y es algo que puede ayudar al usuario promedio de computadoras a familiarizarse más con los LLMs.
Y debo señalar que ninguno de estos LLMs compatibles con ChatRTX realmente requiere ChatRTX. El beneficio de ChatRTX es que no requiere experiencia y te permite entrenar un chatbot local personalizado sin mucho esfuerzo. Aunque espero que ChatRTX se convierta en un producto real, no es necesario que lo haga, ya que inspirará a los desarrolladores a construir aplicaciones de IA aún mejores.
Requisitos y Disponibilidad
Puedes instalar ChatRTX hoy de forma gratuita desde el sitio web de NVIDIA. Sin embargo, ChatRTX requiere una GPU de la serie RTX 30 o 40 con al menos 8GB de VRAM (sí, algunas laptops cumplen con estas especificaciones). También necesitarás suficiente paciencia para esperar durante una descarga de 30GB, ya que ChatRTX es una aplicación relativamente grande.
NVIDIA’s ChatRTX Ahora Compatible con Google Gemma
Introducción
ChatRTX, el chatbot de IA experimental de Nvidia, ha estado generando revuelo en el mundo tecnológico y ahora también es compatible con Google Gemma. Diseñado para ejecutarse localmente en PCs con Windows alimentados por GPUs RTX, combina modelos de IA de vanguardia con interfaces fáciles de usar. Sumérgete en los detalles y descubre qué lo convierte en un cambio de juego.
Inicio
Nvidia introdujo ChatRTX como «Chat with RTX» en febrero. Para ejecutarlo, necesitarás una GPU de la serie RTX 30 o 40 con al menos 8GB de VRAM.
Servidor de Chatbot Local
Crea un servidor de chatbot local accesible desde tu navegador. Puedes alimentarlo con documentos personales o incluso videos de YouTube.
Modelos de IA
Inicialmente, ChatRTX admitía Mistral y Llama 2, ahora RTX expande su arsenal con más modelos de IA.
Modelos de IA Soportados
Google Gemma
Diseñado para laptops y PCs de escritorio potentes.
La inclusión en ChatRTX simplifica la ejecución local del modelo.
Los usuarios pueden elegir entre modelos según sus necesidades de análisis de datos.
ChatGLM3
Un modelo de lenguaje grande y bilingüe (inglés y chino).
Construido sobre el framework de modelo de lenguaje general.
Mejora la comprensión y generación de lenguaje natural.
OpenAI’s CLIP
Permite la interacción con datos fotográficos locales.
Entrena al modelo para reconocer imágenes a través de palabras y frases.
No es necesario el etiquetado de metadatos complejos.
Integración de Consultas de Voz y Whisper
Whisper
Nvidia integró Whisper, un sistema de reconocimiento de voz basado en IA.
Interacción por Voz
Los usuarios ahora pueden buscar sus datos usando consultas de voz.
Respuestas de Texto
Responde con respuestas relevantes en texto.
Beneficios de ChatRTX
Ejecución Local
Se ejecuta directamente en tu dispositivo, garantizando privacidad y seguridad.
Respuestas Relevantes
Respaldado por potentes modelos de lenguaje grandes (LLMs), genera rápidamente respuestas contextualmente relevantes.
Interfaz Amigable para el Usuario
Elige el modelo adecuado para tu análisis de datos sin esfuerzo.
Conclusión
Trae capacidades de chatbot personalizado a PCs con Windows alimentados por RTX. Con el soporte de Gemma, ChatGLM3 y CLIP, es una herramienta versátil para entusiastas de la IA. Ya sea que estés buscando documentos, analizando imágenes o interactuando a través de voz, ChatRTX te permite explorar el mundo de la IA directamente desde tu escritorio.
- Las 20 principales conspiraciones sobre extraterrestres y su tecnología: Un viaje a lo desconocido - 10 de junio de 2024
- Elon Musk desvía chips de IA de Nvidia de Tesla a X y xAI: Conflictos y repercusiones - 10 de junio de 2024
- ¿Sildenafil «Viagra» contra la demencia? Nuevos avances en una investigación prometedora de la Universidad de Oxford - 9 de junio de 2024
