Segun MarkTechPost (AI/ML News), NVIDIA presentó dos herramientas abiertas diseñadas para facilitar el desarrollo de agentes de inteligencia artificial que operan continuamente, reduciendo costos y tiempos de respuesta en tareas repetitivas. Estas soluciones, Nemotron 3.5 Lightning y NeMo Switchyard, abordan un problema estructural: los agentes largos se dedican mayormente a llamadas de herramientas, validación de resultados y delegación interna, procesos que si se ejecutan en modelos de razonamiento avanzado, generan latencia y gastos innecesarios.
Nemotron 3.5 Lightning es un modelo ligero y personalizable, con una arquitectura híbrida basada en Mamba-2, mezcla de expertos (MoE) y atención, que permite un contexto de hasta 1 millón de tokens. A pesar de su tamaño total de 30 mil millones de parámetros, solo 3 mil millones están activos en operaciones reales. En pruebas comparativas, logra una velocidad de salida hasta cuatro veces superior a modelos similares, y completa 10.000 tareas del conjunto PinchBench 30% más rápido que Qwen3.6 de 35 mil millones de parámetros, manteniendo un nivel de precisión comparable. El modelo está disponible bajo la licencia OpenMDW-1.1, permitiendo el uso comercial con acceso completo a pesos, datos de entrenamiento y guías técnicas.
NeMo Switchyard actúa como un sistema de enrutamiento abierto, que distribuye cada paso del flujo de trabajo de un agente hacia el modelo más adecuado, según el tipo de tarea. Esta funcionalidad evita el uso de modelos generales en procesos específicos, optimizando el rendimiento y reduciendo el consumo de recursos. Ambas tecnologías son accesibles para desarrolladores individuales, con capacidad de implementación en una sola GPU moderna, como el DGX Spark (GB10) o el H100. Empresas de tamaño medio pueden integrarlas mediante plataformas como Baseten, Together AI o Nebius, mientras que instituciones reguladas pueden mantenerlas en entornos locales, sin necesidad de depender de nube externa.
En el contexto peruano, donde el crecimiento de la tecnología en sectores como banca, consultoría legal, desarrollo de software y salud se acelera, estas herramientas representan una oportunidad clave. Empresas pequeñas y medianas podrían adoptar modelos de IA de bajo costo y fácil integración para automatizar procesos de análisis, gestión de clientes o evaluación de riesgos. La disponibilidad de tecnologías abiertas permite a las startups locales, sin presupuesto elevado, competir con soluciones de alto costo, sin sacrificar calidad. Además, en sectores como servicios financieros o salud, donde la precisión y la rapidez son esenciales, el uso de agentes de IA optimizados puede mejorar eficiencia operativa y reducir tiempos de respuesta en entornos reales.
Este avance no solo transforma el diseño de software, sino que también democratiza el acceso a inteligencia artificial, permitiendo que más actores del mercado puedan innovar sin necesidad de inversiones masivas en infraestructura tecnológica.