Una startup francesa que apuesta en contra del foso de software de Nvidia ha lanzado una herramienta pensada para ejecutar modelos de IA casi en cualquier sitio. ZML, una empresa parisina, lanzó LLMD el 8 de julio — un servidor de inferencia LLM gratuito diseñado para ejecutar modelos de pesos abiertos en chips muy distintos desde una sola pila. El objetivo, dice su fundador Steeve Morin, es "romper los silos existentes" y poner fin a la dependencia del proveedor que ata las cargas de trabajo de IA a un único fabricante de hardware.

Cualquier modelo, cualquier hardware

LLMD se entrega con soporte para cinco arquitecturas de serie: Nvidia CUDA, AMD ROCm, Google TPU, Intel y Apple Metal. "La idea es devolver a la gente el poder de crear su propio sistema y lograr auténticas mejoras de eficiencia", dijo Morin a TechCrunch, y añadió que ZML ha "llegado al punto en que estamos co-diseñando silicio". El lema de la empresa es rotundo: "Cualquier modelo. Cualquier hardware. Sin concesiones."

Cómo está construido

LLMD está construido en el lenguaje de programación Zig sobre MLIR y OpenXLA, eludiendo deliberadamente la cadena de dependencia de Python y PyTorch. Se apoya en una compilación explícita, adelantada, para que las latencias se mantengan "planas y predecibles", sin compilación oculta en tiempo de ejecución. El servidor se asienta sobre el marco de inferencia de código abierto de ZML, lanzado por primera vez en septiembre de 2024 y actualizado a la v2 en marzo de 2026 bajo licencia Apache-2.0.

Gratis, pero no abierto

Y aquí está el giro: LLMD es gratuito, pero no de código abierto — una excepción frente al marco en el que se apoya. El razonamiento de Morin es de paciencia comercial: "Prefiero medir y [generar ingresos] donde sea más eficaz sin frenar mi crecimiento de forma estúpida." Primero entender cómo lo usa la gente, monetizar después.

Una puesta en perspectiva

La presentación se adelanta al código ya distribuido. ZML anuncia particionado paralelo de tensores, caché de prefijos y amplio soporte de modelos, pero una prueba práctica independiente publicada en Hugging Face concluyó que la alfa actual es mucho más limitada: solo una GPU, tamaño máximo de lote de 16, sin caché de prefijos y soporte limitado a los tipos de modelo Llama y Qwen3. No se han publicado cifras firmes de rendimiento ni de latencia; la afirmación de velocidad "a veces superior a la nativa" sigue siendo cualitativa. Por ahora, las funciones anunciadas parecen formar parte de la hoja de ruta.

Quién está detrás

Fundada en 2023 con un equipo de unas 20 personas, ZML está dirigida por Morin, exvicepresidente de ingeniería en Zenly, la app de compartición de ubicación que Snap adquirió en 2017. La empresa ha levantado 20 millones de dólares, liderados por 20VC, de Harry Stebbings, junto con Kima Ventures, de Xavier Niel, LocalGlobe y Kindred Capital, además de una lista de ángeles destacada: el laureado con el Premio Turing Yann LeCun, el fundador de Docker Solomon Hykes y los cofundadores de Hugging Face. "No podría hacer ZML en ningún otro sitio que no fuera París", dijo Morin. Compite en un mercado de inferencia saturado que incluye a Baseten, valorada en 13.000 millones de dólares, y a los equipos detrás de vLLM y SGLang.