Prompts mit Jev an das passende Modell leiten

Kann Jev auswählen, welches Modell einen Prompt bearbeitet?

Ja. TypeSafe nennt Modell-Routing unter seinen beispielhaften Anwendungsfällen: einen eigenen Router, der auswählt, welches Sprachmodell den jeweiligen Prompt erhält. Das Muster für Intent-Routing zeigt die Form. Eine Choice-Frage klassifiziert die eingehende Anfrage, und gewöhnlicher Code leitet jede Klasse an einen Handler weiter: eine Datenbankabfrage, ein spezialisiertes Modell oder einen menschlichen Bearbeiter.

Jev schreibt die Antwort nicht. Es trifft die kleine Entscheidung, die der teuren vorausgeht, damit ein Routine-Prompt kein Reasoning-Modell belegt und ein schwieriger Prompt nicht bei einem Modell landet, das ihn nicht lösen kann.

Die bearbeitbare Routing-Vorlage öffnen. Sie enthält einen fiktiven Prompt aus der Softwareentwicklung und vier Handler. Beim Laden entsteht nur ein Entwurf; eine Prüfung startet erst, wenn Sie sie anfordern.

Handler nach ihrem Zweck beschreiben

Modellnamen ändern sich; Zuständigkeiten halten länger. Die Vorlage beschreibt jedes Ziel anhand der Arbeit, für die es sich eignet, und Ihr Code ordnet die Bezeichnung dem Modell zu, das diese Rolle gerade ausfüllt.

Nur eine Sache ändern und vergleichen

1. Führen Sie die Vorlage aus und notieren Sie den gewählten Handler und die übrigen Wahrscheinlichkeiten.
2. Ersetzen Sie den Prompt durch „Wann ist Ihr Support erreichbar?“ und führen Sie die Prüfung erneut aus.
3. Probieren Sie „Kündigen Sie meinen Vertrag und erstatten Sie die Gebühren für dieses Jahr.“ Legen Sie vorher fest, ob Ihre Richtlinien es Software erlauben, darauf zu handeln.

Es ist keine erwartete Antwort vorgegeben, und einige wenige Durchläufe messen keine Routing-Qualität. Um einen Router zu bewerten, versehen Sie einige Hundert echte Prompts mit dem Handler, den Sie selbst gewählt hätten, und vergleichen Sie – einschließlich der Kosten jedes Fehlers.

Confidence als Rückfallebene nutzen

Im Intent-Routing-Beispiel von TypeSafe prüft der Code die Confidence, bevor er die Bezeichnung ansieht: Unterhalb einer Untergrenze geht die Anfrage an einen Menschen, gleichgültig, welche Klasse gewählt wurde. Das Muster für Confidence-gesteuertes Routing ergänzt, dass sich die Untergrenze nach der Tragweite richten sollte: niedrig für eine harmlose Aktion und deutlich höher für eine, die Geld bewegt. Leiten Sie Ihre Zahlen aus Ihren eigenen gelabelten Prompts ab; die dokumentierten Werte veranschaulichen das Muster und sind keine Empfehlungen. Wahrscheinlichkeit und Confidence unterscheiden erklärt die beiden Signale.

Und das Kürzen des Kontexts?

Eine verwandte Idee stellt zu jeder früheren Nachricht eine Ja/Nein-Frage, etwa „Wird das noch gebraucht?“, und verwirft den Rest. Seien Sie vorsichtig. Ein Autor aus der Community berichtete am 18. September 2026, dass ein naiver Relevanzfilter in einem Benchmark für Langzeitgedächtnis bestenfalls keinen Gewinn und schlimmstenfalls einen starken Einbruch brachte. Das ist ein einzelnes, vom Autor berichtetes Experiment mit einer einzigen Filtermethode, aber eine nützliche Warnung: Eine verworfene Nachricht lässt sich in späteren Schritten nicht zurückholen. Messen Sie die Antwortqualität mit und ohne Filter, bevor Sie sich darauf verlassen.

Routing-Fehler bleiben leise, weil auch ein schwächeres Modell flüssigen Text erzeugt. Protokollieren Sie jede Entscheidung, prüfen Sie eine Stichprobe und lesen Sie, wo Jevs Grenzen liegen.