Orienter les prompts vers le bon modèle avec Jev

Jev peut-il choisir le modèle qui traite un prompt ?

Oui. TypeSafe cite le routage de modèles parmi ses exemples de cas d’usage : un routeur sur mesure qui choisit quel modèle de langage reçoit chaque prompt. Son schéma de routage par intention en montre la forme. Une question Choice classe la demande entrante, et du code ordinaire envoie chaque classe vers un gestionnaire : une consultation de base de données, un modèle spécialisé ou un agent humain.

Jev ne rédige pas la réponse. Il prend la petite décision qui précède la décision coûteuse, afin qu’un prompt routinier n’occupe pas un modèle de raisonnement et qu’un prompt difficile n’arrive pas chez un modèle incapable de le résoudre.

Ouvrir le modèle de routage modifiable. Il contient un prompt d’ingénierie fictif et quatre gestionnaires. Son chargement crée un brouillon ; seule votre demande lance une vérification.

Décrire les gestionnaires par leur vocation

Les noms de modèles changent ; les responsabilités durent plus longtemps. Ce modèle de tâche décrit chaque destination par le travail qui lui convient, et votre code associe le libellé au modèle de langage qui remplit ce rôle à un moment donné.

Modifier un seul élément, puis comparer

1. Lancez une vérification avec l’exemple tel quel, puis notez le gestionnaire sélectionné et les autres probabilités.
2. Remplacez le prompt par « Quels sont les horaires de votre support ? » et relancez la vérification.
3. Essayez « Résiliez mon contrat et remboursez les frais de cette année. » Décidez à l’avance si votre politique autorise un logiciel à y donner suite.

Aucune réponse attendue n’est préremplie, et quelques exécutions ne mesurent pas la qualité d’un routage. Pour évaluer un routeur, étiquetez quelques centaines de prompts réels avec le gestionnaire que vous auriez choisi, puis comparez, en tenant compte du coût de chaque erreur.

Faire de la confiance la solution de repli

Dans l’exemple de routage par intention de TypeSafe, le code vérifie la confiance avant de regarder le libellé : sous un plancher, la demande part vers une personne, quelle que soit la classe sélectionnée. Le schéma de routage conditionné par la confiance ajoute que ce plancher doit suivre les enjeux : bas pour une action sans conséquence, bien plus élevé pour une action qui déplace de l’argent. Fixez vos valeurs à partir de vos propres prompts étiquetés ; les valeurs documentées illustrent le schéma et ne sont pas des recommandations. Distinguer probabilité et confiance explique les deux signaux.

Et l’élagage du contexte ?

Une idée voisine consiste à poser une question oui/non pour chaque message antérieur, par exemple « est-ce encore nécessaire ? », et à écarter le reste. Soyez prudent. Un auteur de la communauté a rapporté le 18 septembre 2026 qu’un filtre de pertinence naïf n’apportait, au mieux, aucun gain sur un benchmark de mémoire longue et, au pire, une forte baisse. Il s’agit d’une expérience unique, rapportée par son auteur, avec une seule méthode de filtrage ; l’avertissement reste utile : un message écarté ne peut pas être récupéré en aval. Mesurez la qualité des réponses avec et sans le filtre avant de vous y fier.

Les erreurs de routage sont silencieuses, car un modèle plus faible produit malgré tout un texte fluide. Journalisez chaque décision, examinez un échantillon et consultez les limites de Jev.