Diciotto mesi dopo che Mira Murati ha lasciato l’incarico di CTO di OpenAI per fondarlo, Thinking Machines Lab ha lanciato il suo primo modello interno. Inkling, rilasciato il 15 luglio, arriva con qualcosa che i frontier lab non offrono: i pesi completi, sotto Apache 2.0.
L’architettura
Inkling è un transformer decoder-only a 66 layer basato su una sparse mixture-of-experts — 256 esperti instradati più due esperti condivisi per layer, con sei esperti instradati attivi per token. Ne risultano 975 miliardi di parametri totali ma solo circa 41 miliardi attivi per token. È stato addestrato su 45 trilioni di token che spaziano tra testo, immagini, audio e video, su sistemi Nvidia GB300 NVL72, e gestisce finestre di contesto fino a 1 milione di token. La model card indica come input testo, immagine e audio, con output solo testuale — il video rientra nel mix di addestramento, non nella superficie di input.
Come eseguirlo
I pesi sono su Hugging Face, con un checkpoint quantizzato NVFP4 per hardware Blackwell. Eseguirlo non è semplice: BF16 richiede circa 2TB di VRAM, NVFP4 circa 600GB. È supportato in Transformers, SGLang, vLLM, llama.cpp e Unsloth, servito tramite TogetherAI, Fireworks, Modal, Databricks e Baseten, ed è disponibile per il fine-tuning sulla piattaforma proprietaria Tinker dell’azienda. Una preview di Inkling-Small — 276 miliardi totali, 12 miliardi attivi — usa la stessa ricetta.
Un lancio insolitamente onesto
I benchmark riportati dall’azienda collocano Inkling al 97,1% su AIME 2026, 87,2% su GPQA Diamond, 77,6% su SWE-bench Verified e 46,0% su Humanity's Last Exam con strumenti; nessuno è verificato in modo indipendente. Il laboratorio sostiene che Inkling usi un terzo dei token di Nvidia Nemotron 3 Ultra per ottenere prestazioni equivalenti sul codice. Ma rinuncia alla consueta rivendicazione: "Inkling is not the strongest overall model available today, open or closed," si legge nel blog.
Il business dietro tutto questo
Fondata nel febbraio 2025, Thinking Machines ha raccolto un seed da 2 miliardi di dollari a una valutazione di 12 miliardi di dollari nel luglio 2025 — il più grande seed nella storia dell’IA — guidato da Andreessen Horowitz con Nvidia, Accel, ServiceNow, Cisco, AMD e Jane Street. Un round successivo, secondo quanto riportato, puntava a 50 miliardi di dollari ed è naufragato entro gennaio 2026 senza un accordo, perché i finanziatori volevano uno storico di prodotto più solido. Inkling è quello storico. Non è monetizzato; i ricavi arrivano da Tinker, i cui clienti includono Bridgewater Associates.