La stratégie de routage de modèles de Cohere remet en question le modèle de tarification par jeton : enjeux majeurs pour les flux de travail agentiques en entreprise

Cohere transforme l’approche des coûts liés à l'IA en entreprise en délaissant la facturation au jeton pour une stratégie de routage axée sur la valeur. Cette méthode répond directement à la complexité croissante des flux de travail agentiques, où les tâches nécessitent de multiples étapes de raisonnement et des interactions avec divers outils, ce qui augmente naturellement la consommation de jetons.

Ce qui a changé : Le changement fondamental réside dans l’abandon d'une utilisation systématique des modèles de pointe au profit d'un routage intelligent basé sur la sensibilité de la tâche et le niveau d'intelligence requis. Plutôt que d'envoyer chaque requête à un modèle massif et coûteux, les organisations peuvent désormais diriger les travaux hautement réglementés vers des modèles privés locaux plus compacts, tout en réservant les modèles de pointe aux problèmes les plus complexes.

A surveiller : Il sera intéressant d'observer la performance de la couche de gouvernance de Cohere en production à mesure que les entreprises délaissent les simples agents conversationnels pour des flux de travail agentiques multi-étapes. Le succès de cette stratégie de routage sera un facteur de différenciation majeur face aux fournisseurs de services infonuagiques proposant des solutions d'IA groupées qui entraînent souvent un verrouillage technologique.