開始之前
門檻是決定下一步怎麼做的產品規則:直接採用、送人工,或詢問更多資料。如果沒有檢查這些結果,只把數字調高,可能增加工作,卻沒有改善使用者的體驗。
本文補充現有 Jev 信賴度流程。互動計算表使用你提供的輸出與預期標籤,不執行模型,也不宣稱測得新的準確率。比較門檻時,應固定任務、模型設定與分數定義。
先命名門檻控制的動作
先看準備自動執行什麼。把客服訊息送進內部佇列、貼上內容標籤、批准會影響客戶的動作,錯誤代價不同,不能因為欄位名稱一樣就共用規則。
寫下錯誤採用結果會造成什麼,以及能如何恢復,再決定哪些情況要複核、哪些需要補資料。避免一個方便的數字,悄悄取代完整業務政策。
確認實際使用哪個分數
TypeSafe 文件區分 choice 分布、confidence 與 noul。計算表記下確切欄位與問題型別;數字落在零到一之間,不代表都是現實中答案正確的機率。
把分數定義放在應用規則旁。選項數、提問方式或服務映射改變時,要重新評估,不能假定舊門檻仍可直接比較。目的是能追溯的判斷流程。
看到預測之前先準備標籤
使用有權處理的代表性輸入,移除不必要的個人資料。先依政策寫出預期結果,再查看模型輸出,避免被看起來合理的預測影響答案。
樣本包括常規、模糊表達、資料缺漏與動作邊界案例。標註者有分歧時應記錄,可能是規則需要例外或澄清,不一定是某個模型答案顯然錯誤。
把最後驗收與調整過程分開
一部分樣本用來理解模型、調整問題,另一部分在候選門檻選好以前先不使用。反覆看同一批結果再改規則,會降低對未來輸入的參考價值。
重點是有沒有真正分開,而不是固定比例。記下哪些案例影響規則、哪些只用於最後檢查。任務明顯改變後,樣本也要更新,才仍代表產品收到的請求。
先驗證資料列再計算
每列需要預測標籤、預期標籤與使用的分數。標籤應符合結構,分數必須是有限數值並落在文件定義範圍。空白或無效值應列為未解決,不能默默變成零。
同一任務的重試應能辨認,不能和獨立使用者任務混為一談。計算工具要說明統計單位,否則複核率與錯誤率即使算術正確,也可能被錯誤解讀。
自動接受與複核分別計算
針對候選門檻,標出會自動採用和進入複核的資料;在自動採用者中比較預測與預期,計算錯誤。百分比旁邊保留原始筆數。
接受後錯誤率是接受錯誤筆數除以接受筆數,複核率則是複核筆數除以有效樣本數。沒有任何接受項目時,前者無法定義,不能顯示零,讓完全不自動化的策略看起來完美。
比較幾個門檻的取捨
移動門檻,觀察哪些案例改走其他路徑。提高數字可能縮小接受範圍,但不能證明剩下的每一筆都正確,要直接檢查高分錯誤。
依動作要求與人工容量比較候選,不只選圖形最好看的位置。記下選擇理由與附近替代方案,營運條件改變時才知道如何重新判斷。
檢查對產品重要的群組
總體結果可能掩蓋少量卻重要的輸入問題。樣本足夠時,觀察任務種類、語言、長度或模糊類別,不要用幾個案例就做出精確群組結論。
這些檢查用來找具體失敗與證據缺口。樣本太少就標示不確定並保留複核,整體平均不能取代對高代價情境的驗證。
不確定、缺資料與服務失敗分開
低分判斷可能需要人工,缺輸入可能需要詢問使用者,逾時或格式錯誤則是技術故障。不能全部進入不斷呼叫模型的同一迴圈。
為每個狀態安排清楚的復原路徑,重試有次數上限,保留任務識別,結果符合契約前不做重要動作。門檻不能修復無效輸入,也不能把失敗請求變成有效決策。
檢查人工容量與修正成本
以觀察到的任務量和複核時間估算工作,並明確標為估算。佇列無法消化時,盲目降低門檻,可能只是把工作移到客訴和事後修正。
納入錯誤接受和重複請求的代價。目標是以可接受成本正確完成流程,不是最高自動化百分比。有時補一個缺少的輸入或澄清規則,比調整數字更有效。
先跟著現有流程觀察
新門檻正式影響客戶之前,先觀察它會怎麼做,讓原流程保有決定權。比較候選路徑與人工結果,尤其關注模型高分接受、人工卻拒絕的案例。
這一步也驗證程式實作:是否讀對欄位、邊界比較是否正確、無效列是否可見、人工路徑是否到得了。寫得正確的政策,仍可能在程式裡接錯。
讓門檻與明確版本的任務綁定
保存門檻、分數欄位、模型或API版本、問題結構、評估日期與驗收條件。依適當資料處理方式保留代表性的正確和錯誤案例,未來修改才有依據。
模型、提示詞、標籤或流程改變後,重跑相關樣本。用本站真正的決策工具取得輸出,再用計算表檢查政策。本文不提供萬用安全值,也不宣稱已達到特定自動化比例。
0.9 永遠是好門檻嗎?
不是,必須同時定義分數、任務、動作與測試集,再依觀察結果和錯誤代價選擇。
沒有任何自動接受時可以顯示零錯誤嗎?
比率無法定義,因為分母為零。應顯示沒有接受項目,避免誤導。
所有不確定結果都要重試嗎?
不需要。不確定、缺資料和技術故障需要不同復原方式,重複呼叫不能取代複核政策。
移動滑桿會執行 Jev 或改變正式環境嗎?
不會,只用提供的觀測資料重新計算筆數與路徑,不呼叫模型,也不對客戶執行動作。
