Groq

Groq ne fabrique pas de modèle : l'entreprise exploite des processeurs LPU, conçus pour l'inférence, et y sert les modèles ouverts des autres. Son argument est la vitesse de génération, mesurée en jetons par seconde, plutôt que la taille du contexte. L'API reprend le format d'OpenAI, ce qui permet de basculer une application existante en changeant l'adresse de base et le nom du modèle.

Le catalogue suit les publications de la communauté : modèles de génération, petites versions pour la classification, modèles de transcription audio. Les prix sont affichés au million de jetons et restent dans la moyenne basse, avec une tarification distincte pour l'audio.

Nous n'avons pas de clé Groq pour sonder l'inférence en direct ; cette fiche s'appuie donc sur le statut publié par l'éditeur et sur ses tarifs officiels. C'est un fournisseur à considérer quand la latence perçue prime sur la richesse du modèle : pour un assistant vocal ou une complétion en cours de frappe, le débit compte plus que le dernier point de benchmark. Les tarifs, eux, restent alignés sur ceux de l'inférence classique. Le catalogue suit les sorties de la communauté, avec les mêmes modèles ouverts que chez les autres hébergeurs.