Uma startup francesa apostando contra a fortaleza de software da Nvidia colocou no ar uma ferramenta pensada para rodar modelos de IA em quase qualquer lugar. ZML, empresa de Paris, lançou o LLMD em 8 de julho — um servidor de inferência para LLMs gratuito, projetado para rodar modelos de pesos abertos em chips muito diferentes a partir de uma única pilha. O objetivo, diz o fundador Steeve Morin, é "quebrar os silos existentes" e encerrar o vendor lock-in que prende cargas de trabalho de IA a um único fabricante de hardware.

Qualquer modelo, qualquer hardware

O LLMD já chega com suporte para cinco arquiteturas de saída: Nvidia CUDA, AMD ROCm, Google TPU, Intel e Apple Metal. "A ideia é devolver às pessoas o poder de criar seu próprio sistema e obter ganhos reais de eficiência", disse Morin ao TechCrunch, acrescentando que a ZML chegou "ao ponto em que estamos co-desenhando silício". O slogan da empresa é direto: "Any model. Any hardware. Zero compromise."

Como ele é construído

O LLMD é construído na linguagem de programação Zig, sobre MLIR e OpenXLA, contornando deliberadamente a cadeia de dependência de Python e PyTorch. Ele se apoia em compilação explícita, feita antecipadamente, para que as latências permaneçam "planas e previsíveis", sem compilação em runtime oculta. O servidor fica sobre a estrutura de inferência de código aberto da ZML, lançada pela primeira vez em setembro de 2024 e atualizada para a v2 em março de 2026 sob licença Apache-2.0.

Gratuito, mas não aberto

Há a reviravolta: o LLMD é gratuito, mas não é open source — uma mudança em relação à estrutura sobre a qual ele se apoia. O raciocínio de Morin é a paciência comercial: "Prefiro medir e [gerar receita] onde isso é mais eficaz, sem prejudicar estúpida e desnecessariamente meu crescimento." Primeiro entender como as pessoas o usam, monetizar depois.

Um teste de realidade

A proposta de lançamento avança mais rápido do que o código entregue. A ZML divulga sharding por paralelismo de tensores, prefix caching e amplo suporte a modelos, mas um teste prático independente publicado no Hugging Face constatou que o alpha atual é muito mais restrito: apenas uma GPU, tamanho máximo de batch de 16, sem prefix caching e suporte limitado aos tipos de modelo Llama e Qwen3. Nenhum número sólido de throughput ou latência foi publicado; a promessa de velocidade "às vezes mais rápida que o nativo" continua qualitativa. As funcionalidades anunciadas, por ora, parecem fazer parte do roadmap.

Quem está por trás

Fundada em 2023 com uma equipe de cerca de 20 pessoas, a ZML é liderada por Morin, ex-vice-presidente de engenharia da Zenly, o aplicativo de compartilhamento de localização que a Snap comprou em 2017. A empresa levantou US$ 20 milhões, liderados pela 20VC de Harry Stebbings com a Kima Ventures de Xavier Niel, LocalGlobe e Kindred Capital, além de uma lista de anjos de destaque: o laureado Turing Yann LeCun, o fundador da Docker Solomon Hykes e os cofundadores da Hugging Face. "Eu não conseguiria fazer a ZML em nenhum lugar além de Paris", disse Morin. A empresa compete em um campo de inferência concorrido, que inclui a Baseten, avaliada em US$ 13 bilhões, e as equipes por trás de vLLM e SGLang.