Une start-up française qui mise contre le fossé logiciel de Nvidia a livré un outil destiné à faire tourner des modèles d’IA presque partout. ZML, une société parisienne, a lancé LLMD le 8 juillet — un serveur d’inférence LLM gratuit conçu pour exécuter des modèles à poids ouverts sur des puces très différentes à partir d’une seule stack. L’objectif, explique le fondateur Steeve Morin, est de « casser les silos existants » et de mettre fin au verrouillage fournisseur qui lie les charges de travail IA à un seul fabricant de matériel.

N’importe quel modèle, n’importe quel matériel

LLMD est livré avec la prise en charge de cinq architectures d’emblée : Nvidia CUDA, AMD ROCm, Google TPU, Intel et Apple Metal. « L’idée est de redonner aux gens le pouvoir de créer leur propre système et d’obtenir de vrais gains d’efficacité », a déclaré Morin à TechCrunch, ajoutant que ZML a « atteint le point où nous co-concevons des puces ». Le slogan de l’entreprise est sans ambiguïté : « N’importe quel modèle. N’importe quel matériel. Zéro compromis. »

Comment c’est construit

LLMD est développé en langage Zig au-dessus de MLIR et OpenXLA, en contournant délibérément la chaîne de dépendances Python et PyTorch. Il s’appuie sur une compilation explicite en amont afin que les latences restent « stables et prévisibles », sans compilation à l’exécution cachée. Le serveur repose sur le framework d’inférence open source de ZML, lancé pour la première fois en septembre 2024 et mis à jour en v2 en mars 2026 sous licence Apache-2.0.

Gratuit, mais pas open source

Voilà la nuance : LLMD est gratuit mais pas open source — une rupture avec le framework sur lequel il repose. Le raisonnement de Morin est celui de la patience commerciale : « Je préfère mesurer et [générer du revenu] là où c’est le plus efficace sans freiner stupidement ma croissance. » Comprendre d’abord comment les gens l’utilisent, monétiser plus tard.

Retour à la réalité

Le discours de lancement devance le code livré. ZML fait la promotion du sharding en parallèle de tenseurs, du prefix caching et d’une large prise en charge des modèles, mais un test pratique indépendant publié sur Hugging Face a montré que l’alpha actuelle est bien plus limitée : un seul GPU, une taille de lot maximale de 16, pas de prefix caching, et une prise en charge limitée aux types de modèles Llama et Qwen3. Aucun chiffre ferme de débit ou de latence n’a été publié ; l’affirmation de vitesse « parfois plus rapide que le natif » reste qualitative. Pour l’instant, les fonctionnalités annoncées relèvent de la feuille de route.

Qui est derrière

Fondée en 2023 par une équipe d’environ 20 personnes, ZML est dirigée par Morin, ancien vice-président de l’ingénierie chez Zenly, l’application de partage de localisation rachetée par Snap en 2017. L’entreprise a levé 20 millions de dollars, menés par 20VC de Harry Stebbings avec Kima Ventures de Xavier Niel, LocalGlobe et Kindred Capital, ainsi qu’une liste d’anges investisseurs prestigieux : le lauréat Turing Yann LeCun, le fondateur de Docker Solomon Hykes et les cofondateurs de Hugging Face. « Je ne pourrais pas faire ZML ailleurs qu’à Paris », a déclaré Morin. La société évolue sur un marché de l’inférence déjà encombré, qui compte notamment Baseten, valorisée 13 milliards de dollars, ainsi que les équipes derrière vLLM et SGLang.