用 Jev 把提示分派給合適的模型

Jev 能選擇由哪個模型處理提示嗎？

可以。TypeSafe 把模型路由列在它的應用情境範例之中：一個自訂路由器，選擇每則提示要交給哪個語言模型。它的意圖路由模式展示了基本形式。一個 Choice 問題為進來的請求分類，再由一般程式碼把每個類別送往對應的處理管道：資料庫查詢、專門模型或真人客服。

Jev 不負責撰寫回覆。它在昂貴的決策之前先做一個小決策，讓例行的提示不會佔用推理模型，困難的提示也不會落到解決不了它的模型手上。

開啟可編輯的路由範本。其中有一則虛構的工程提示和四個處理管道。載入只會建立草稿，要等你主動點擊檢查才會執行。

依用途描述處理管道

模型名稱會變；職責則持久得多。範本依照每個目的地適合的工作來描述它，再由你的程式碼把標籤對應到目前擔任該角色的模型。

每次只改一項，再比較結果

1、執行範本，記下選出的處理管道和其他選項的機率。

2、把提示換成「你們的客服時間是幾點到幾點？」，再執行一次。

3、試試「取消我的合約，並退還今年的費用。」事先決定你的政策是否允許軟體對此採取行動。

沒有預填預期答案，幾次執行也無法衡量路由品質。要評估路由器，請為幾百則真實提示標註你原本會選的處理管道，再加以比較，並把每種錯誤的代價算進去。

以信心程度作為後備

在 TypeSafe 的意圖路由範例中，程式碼先檢查信心程度，再看標籤：低於下限時，不論選出的類別是什麼，請求都交給真人。「以信心程度把關的路由」模式進一步指出，下限應該隨風險高低而定：無害的動作可以低一些，涉及金錢移轉的動作則要高得多。請從自己已標註的提示中挑選數值；文件中的數值只是用來說明這個模式，並非建議值。機率與信心程度的區別說明了這兩種訊號。

那麼精簡上下文呢？

有一個相關的想法：針對先前的每則訊息各問一個是非問題，例如「這則還需要嗎？」，然後丟掉其餘的。要小心。一位社群作者在 2026 年 9 月 18 日回報，在一個長期記憶基準測試上，簡單的相關性過濾器最好的情況是毫無增益，最壞的情況則是大幅下滑。這只是單一作者自述的實驗，而且只用了一種過濾方法，但它是個有用的警告：被丟掉的訊息，下游無法再找回來。在依賴這種過濾器之前，請分別衡量使用與不使用它時的回答品質。

路由錯誤很安靜，因為較弱的模型照樣會產出流暢的文字。請記錄每一個決策、抽樣複核，並參閱Jev 的限制在哪裡。