NVIDIA anunció una nueva alianza con OpenAI que busca llevar la inteligencia artificial de vanguardia directamente a las computadoras personales. Gracias a esta colaboración, los usuarios de PCs y estaciones de trabajo equipadas con tarjetas gráficas GeForce RTX y RTX PRO podrán acceder a modelos de lenguaje avanzados que antes solo estaban disponibles en centros de datos en la nube.
El anuncio marca la llegada oficial de la familia de modelos gpt-oss, desarrollada por OpenAI, a dispositivos con tecnología RTX. Esta iniciativa tiene como objetivo democratizar el acceso a la IA avanzada, permitiendo su ejecución local con una velocidad y eficiencia sorprendentes.
La línea incluye dos modelos principales:
- gpt-oss-20b, diseñado para PCs con GPU RTX y al menos 16 GB de VRAM, puede procesar hasta 250 tokens por segundo en una RTX 5090, ofreciendo una experiencia fluida y rápida.
- gpt-oss-120b, una variante de mayor tamaño, está optimizada para estaciones de trabajo profesionales que utilizan GPUs RTX PRO.
Ambos modelos fueron entrenados en GPUs NVIDIA H100 y son los primeros en utilizar precisión MXFP4, una tecnología que mejora la calidad de las inferencias sin impactar negativamente en el rendimiento. También soportan contextos de hasta 131.072 tokens, uno de los más amplios disponibles para ejecución local, y utilizan una arquitectura flexible Mixture-of-Experts (MoE). Esto les permite seguir instrucciones complejas, utilizar herramientas y aplicar razonamiento paso a paso en sus respuestas.
Para facilitar el acceso a estos modelos, NVIDIA propone varias opciones:
- Aplicación Ollama: Permite ejecutar los modelos gpt-oss en una interfaz sencilla y está completamente optimizada para GPUs RTX.
- Llama.cpp: En colaboración con la comunidad open source, NVIDIA integra mejoras como el uso de CUDA Graphs, que reducen la sobrecarga y mejoran el rendimiento general.
- Microsoft AI Foundry: Desde Windows, los usuarios pueden ejecutar estos modelos localmente mediante un simple comando en terminal.
Según Jensen Huang, CEO de NVIDIA, esta iniciativa refuerza el compromiso de ambas compañías con el desarrollo de software de código abierto y el avance de la inteligencia artificial. “OpenAI le mostró al mundo lo que se podía construir sobre la IA de NVIDIA y ahora están impulsando la innovación en el software de código abierto”, destacó Huang. “Los modelos gpt-oss permiten a los desarrolladores de todo el mundo construir sobre esa base, fortaleciendo el liderazgo tecnológico de EE. UU. en IA”.
Esta alianza representa un paso clave en la evolución de la inteligencia artificial, llevando capacidades antes reservadas a grandes servidores a los escritorios de los entusiastas y desarrolladores de todo el mundo.
