API Batch
Envoyez jusqu'à 5 000 requêtes de chat dans un fichier JSONL et récupérez les résultats quand ils sont prêts, à la moitié du prix standard des tokens. L'API Batch d'Eden AI suit le format Batch d'OpenAI et fait tourner les modèles OpenAI et Anthropic avec la même clé API.
Plus de 500 entreprises nous font confiance, des startups aux leaders du marché
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
.png)
Comment lancer des requêtes LLM en batch avec Eden AI ?
Qu'est-ce qu'une API Batch ?
Une API Batch reçoit de nombreuses requêtes d'un coup, les traite en asynchrone et renvoie tous les résultats ensemble, en quelques minutes ou quelques heures au lieu de quelques secondes. Les fournisseurs facturent ce travail moins cher car ils peuvent le planifier quand leur capacité est libre. Elle convient aux tâches qui n'attendent pas de réponse immédiate : classer un stock de tickets, étiqueter un catalogue produit, résumer des documents ou lancer des évaluations.
Envoyez un fichier JSONL
Une requête de chat par ligne, les résultats en JSONL.
.avif)
29 modèles à moitié prix
Chaque modèle OpenAI et Anthropic avec un tarif batch coûte 50 % de moins, en entrée comme en sortie. Claude Sonnet 5.5 passe de 2 $ / 10 $ à 1 $ / 5 $ le million de tokens. Repérez-les avec supports_batch dans GET /v3/models.
Valeur ajoutée
Gagnez du temps
Intégrez une seule fois, puis accédez à des centaines de modèles sans avoir
à gérer plusieurs API.
Les mises à jour des modèles, les changements de fournisseurs et les nouvelles versions sont gérés automatiquement, en toute transparence.
Réduisez les coûts
Utilisez le modèle le plus efficace pour chaque besoin. Évitez la dépendance à un fournisseur et adaptez-vous rapidement aux évolutions de prix ou de performances.
Réduisez les risques
Des mécanismes de basculement intégrés protègent les applications contre les défaillances des modèles. La flexibilité du routage permet de s’adapter rapidement à l’évolution des technologies et des fournisseurs.
Ils utilisent API Batch
Des besoins spécifiques ? Nous sommes là pour vous aider
Passerelle API IA
5,5 % de frais de plateforme
Plateforme IA avancée
Tarif sur mesure
Autres fonctionnalités
Nommez un modèle et laissez Eden AI choisir le fournisseur qui le sert, selon le coût, la latence ou la région, avec une bascule automatique quand un fournisseur échoue. Ajoutez des fallbacks pour passer à un autre modèle, ou enregistrez toute la chaîne comme politique de routage et appelez-la par son nom.
Connectez n'importe quel client MCP ou agent au serveur MCP hébergé d'Eden AI et donnez-lui 42 outils : OCR et analyse de documents, recherche et scraping web, voix, traduction, analyse d'images et plus. Une URL, une clé API, aucun serveur à faire tourner.
Exploitez la puissance de l'IA grâce à notre API de génération de vidéos. Créez sans effort du contenu vidéo époustouflant à partir de texte ou d'images, et transformez vos idées en histoires visuelles.
Commencez à créer avec Eden AI
Une interface unique pour intégrer les meilleures technologies d’IA dans vos flux de travail.