La startup parisienne ZML met en ligne ZML/LLMD, un logiciel d’inférence gratuit capable de faire tourner les grands modèles d’IA open source sur des puces de marques différentes, de Nvidia à Intel.
Nvidia règne toujours sur le marché des puces d’intelligence artificielle. Mais des alternatives se multiplient, et la dernière vient de Paris. ZML, jeune pousse française soutenue par Yann LeCun, lauréat du prix Turing, vient de sortir un logiciel qui optimise l’inférence sur tout un éventail de processeurs.
Concrètement, ce logiciel s’appelle ZML/LLMD. C’est un serveur d’inférence, autrement dit la brique qui exécute les requêtes envoyées à un modèle de langage. Sa particularité : il fonctionne sur les puces de Nvidia, mais aussi celles d’AMD, les TPU de Google, la couche Metal d’Apple et les Intel Arc. Un même logiciel, plusieurs matériels.
Casser les silos entre les puces d’IA
L’inférence, c’est le traitement des prompts, la phase où le modèle répond une fois qu’il a été entraîné. Steeve Morin, fondateur de ZML, explique à TechCrunch que cette étape a pris le pas sur l’entraînement en importance, à mesure que l’IA s’installe dans le travail et le quotidien[1]. Le problème : en coulisses, tout reste bricolé. Des barrières logicielles et matérielles enferment les entreprises dans l’écosystème d’un fournisseur, ce qu’on appelle le verrouillage propriétaire.
L’ambition affichée est de faire sauter ces cloisons et de faire tourner chaque puce à sa vitesse maximale disponible, parfois davantage, selon Morin. « L’idée est de rendre aux gens le pouvoir de créer leur propre système et d’obtenir de vrais gains d’efficacité qui permettent de diffuser [l’IA] », dit-il.
Derrière la prouesse technique, il y a un enjeu de coût. La facture de l’IA inquiète de plus en plus les entreprises. Un logiciel qui laisse choisir librement le mix de puces ouvre la possibilité d’aller vers des composants moins chers ou moins gourmands en énergie. C’est là que ZML peut bousculer le marché.
Un allié pour les fabricants de puces européens
Ce type de logiciel intéresse aussi les nouveaux concepteurs de puces, souvent européens. Morin cite Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud et VSORA[1]. Pour lui, leur origine géographique compte moins que la possibilité de travailler avec eux sur « des choses qui n’ont encore jamais été faites nulle part au monde ».
Ce n’est pas un discours en l’air. En juin 2026, à VivaTech, ZML a signé un partenariat stratégique avec la Région Île-de-France, l’hébergeur Scaleway et le concepteur de puces VSORA[3]. L’objectif : bâtir une chaîne de valeur souveraine européenne en IA, de la conception du silicium jusqu’à son exploitation dans le cloud. VSORA, entreprise française soutenue par le Conseil européen de l’innovation, développe son processeur d’inférence Jotunn8, présenté au symposium technologique TSMC Europe en mai 2026.
Morin n’est pas hostile à Nvidia pour autant. Il dit entretenir de bonnes relations avec le géant, en partie parce que celui-ci fournit déjà l’essentiel du marché et se prépare depuis un moment à la montée en puissance de l’inférence.
| Acteur | Positionnement | Repère |
|---|---|---|
| ZML (Paris) | Serveur d’inférence multi-puces ZML/LLMD | 20 personnes, 20 M$ levés |
| Baseten | Plateforme d’inférence | Valorisée 13 Md$ récemment |
| Inferact | Créateurs du projet open source vLLM | Concurrent partiel de LLMD |
| RadixArk | Société commerciale derrière SGLang | Concurrent partiel de LLMD |
Source : TechCrunch
Pourquoi ZML défie le verrouillage des puces d'IA
La ruée vers l’inférence attire les capitaux
L’inférence est devenue un aimant à investissements, au point qu’on parle de « ruée vers l’or de l’inférence ». ZML n’est donc pas seule. Face à elle, Baseten, valorisée à 13 milliards de dollars récemment, Inferact, issu des créateurs du projet open source vLLM, et RadixArk, la société commerciale derrière SGLang[1]. vLLM et SGLang concurrencent en partie LLMD.
Morin voit plus large. « Nous en sommes arrivés au point où nous co-concevons du silicium », affirme-t-il. Il attribue la rapidité de ZML à sa petite équipe de vingt personnes, avec d’autres sorties prévues.
Cette taille réduite est bien financée. Fort de son passé de vice-président ingénierie chez Zenly, application rachetée par Snapchat en 2017 pour un montant à neuf chiffres, Morin a levé 20 millions de dollars[1]. Parmi les investisseurs : le fonds 20VC de Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures de Xavier Niel, Kindred Capital, LocalGlobe et Puzzle Ventures. ZML a été fondée en 2023[4].
Gratuit d’abord, payant plus tard
Le premier projet public de ZML, un framework de machine learning axé sur l’inférence, était open source, sorti en 2024 et mis à jour en mars. ZML/LLMD, lui, ne l’est pas. Il arrive comme produit gratuit, avec un but précis : observer les usages avant d’envisager un modèle payant.
« Je préfère mesurer et [générer ensuite des revenus] là où c’est le plus efficace, sans freiner bêtement ma croissance parce que j’aurais été trop gourmand dès le départ », résume Morin. Impossible pour l’heure de dire quand ZML/LLMD deviendra payant, ni quelle sera son adoption. Reste une équipe de vingt personnes à Paris qui joue une partition rare : celle d’un logiciel censé rendre interchangeables des puces conçues pour ne pas l’être.
ZML et son inférence IA multi-puces : les faits
- ZML/LLMD fonctionne sur Nvidia, AMD, Google TPU, Apple Metal et Intel Arc
- Le logiciel est gratuit mais n'est pas open source
- ZML a levé 20 millions de dollars et emploie 20 personnes
- La startup est soutenue par Yann LeCun, prix Turing
- Fondée en 2023 par Steeve Morin, ex-Zenly
- Partenariat signé à VivaTech en juin 2026 avec l'Île-de-France, Scaleway et VSORA
Sources
3 sources · 6 faits vérifiés
