NVIDIA ha publicado Nemotron 3.5 Bolt E4B 4GB, un modelo abierto para asistentes locales que activa 4.000 millones de sus 8.000 millones de parámetros y se distribuye cuantizado en Q4_K_M. La promesa no es competir en todas las tareas, sino reservar memoria para voz, visión o control de dispositivos dentro del mismo equipo.
La ficha técnica del 23 de octubre describe 64.000 tokens de contexto, 35 idiomas, modo conversacional, razonamiento configurable y llamadas a herramientas. El model card añade la licencia OpenMDW 1.1, fecha de corte de datos en mayo de 2026 y ejemplos con llama.cpp.
Cuatro gigabytes describen un archivo, no todo el equipo
La cifra corresponde al checkpoint cuantizado y a cargas objetivo. En ejecución también ocupan memoria el contexto, la caché KV, el motor, el sistema y cualquier modelo de voz o visión. Mantener los 64K tokens puede exigir mucho más que el peso descargado. Por eso «cabe en 4 GB» no equivale a «funciona igual en cualquier PC con 4 GB».
NVIDIA ofrece checkpoints BF16 y un borrador DFlash para decodificación especulativa. Declara hasta un 21 % más de rendimiento frente al borrador MTP de Gemma 4 E4B. La comparación usa su configuración y no la hemos reproducido.
El promedio esconde tareas donde no gana
El fabricante resume una mejora media cercana al 40 % frente a su modelo previo y hasta 80 % menos tokens que modelos comparados. En la tabla pública, Bolt marca 82,5 en Brevity Bench y 53,1 en MultiChallenge, pero en EQ-Bench v3 queda por debajo de Gemma 4 E4B. Ningún promedio garantiza que una llamada de herramienta, una personalidad o un idioma concreto funcionen mejor.
| Elección | Ventaja esperada | Coste o límite |
|---|---|---|
| Q4_K_M | Menor memoria | Pérdida posible frente a BF16 |
| Razonamiento desactivado | Menor latencia | Menos margen en tareas complejas |
| DFlash | Más tokens por segundo | Otro modelo y más memoria |
| Contexto 64K | Más historial y herramientas | Caché creciente y mayor latencia |
La publicación de pesos, receta y datos de entrenamiento mejora la auditabilidad frente a una API cerrada. Aun así, las cifras principales proceden de NVIDIA y de hardware NVIDIA. No hay todavía una prueba independiente publicada de esta versión en un dispositivo de consumo.
Transparencia: artículo elaborado con asistencia de IA. Texploto no descargó ni ejecutó el modelo.
