Cohere 實際改了什麼
Cohere 的棄用頁面記載兩件常被混為一談的事。第一是端點:「After January 31st, 2025, usage of Classify endpoint via the default Embed models will be deprecated」。同一頁也把 /v1/classify 列為自 2025 年 9 月 15 日起的棄用端點。
第二件事拿掉了退路:command-light、command、command-r、classify 與 rerank 的微調自 2025 年 9 月 15 日起停止,Cohere 並說明先前微調的模型將無法再存取。過去「保留端點、改用自己微調的模型」這條建議,已不再描述一個可依賴的服務。
頁面沒有公布每個既有呼叫的最終關閉日期。這代表一個整合今天可能還會回應,卻仍是明天不該再蓋東西的地方。請把該端點視為「正在離開的系統」,而不是結束日未定的支援選項。
替代方案必須保留什麼
從外面看,一次分類呼叫很小:送出文字、拿回標籤。真正難替換的是周圍的假設。比較供應商之前,先寫下目前流程實際依賴哪些項目;少了一項的替代方案,不是遷移,而是另一個專案。
- 標籤集合與定義。若舊模型是從範例學到標籤,你需要那些範例,而不只是標籤名稱。
- 除了標籤還回傳什麼:分數、排序、機率,或什麼都沒有。下游門檻只有在替代方案回傳「意義相同」的數字時才成立。
- 覆核路徑。低信心的答案必須能送到人手上;默默歸進「其他」只是把不確定藏起來。
- 批次行為。一列進、一列出,重試不會對已完成的列重複計費。
- 語言覆蓋。英文表現好的模型,不代表在客戶實際書寫的每種語言都一樣。
- 資料路徑。誰處理文字、保存什麼、保存多久,既是採購問題也是工程問題。
- 計費單位。token、請求與點數不能互換,最便宜的單位不一定帶來最便宜的「被接受的判定」。
三種現實可行的替代方案
下表依各供應商在 2026-10-21 文件所載的介面比較。這不是品質排名:沒有供應商公布適用於你資料的準確率,公開評測也不會轉移到你的標籤上。真正的差別,是每個方案把什麼寫得明確。
| 方案 | 你送出什麼 | 你拿回什麼 | 自訂標籤 | 信心值 | 計費單位 |
|---|---|---|---|---|---|
| Cohere Chat | 提示詞與回應結構描述 | 依結構描述生成的 JSON | 可以,寫在提示詞或結構描述中 | 沒有專用欄位;分數屬於生成文字 | token,例如 Command 每百萬輸入 $1.00、輸出 $2.00 |
| OpenAI Moderation API | 文字,omni 模型可加圖片 | 13 個固定危害類別與 category_scores | 不行,類別固定 | category_scores 介於 0 到 1 | 免費 |
| Jev API Pro | 文字、指示、2–12 個標籤、門檻 | 一個標籤、供應商提供時的信心值、覆核旗標 | 可以,標籤就是請求的一部分 | 信心值或 null,絕不補值 | 預付點數,每筆成功請求一點 |
方案一:Cohere Chat 搭配結構化回應
當周邊流程已經使用 Cohere 模型,而且你除了標籤也需要生成文字時,留在 Cohere 是合理的選擇。分類變成一段列出允許標籤、要求 JSON 物件的提示詞,應用在採取行動前先驗證該物件。
交換條件是:允許的答案存在提示詞與驗證器裡,而不是請求契約裡。模型可能回傳清單外的標籤、看似合理但未校準的分數,或在你預期單一欄位時給你一段解釋。你能用結構描述約束形狀,仍必須測試選到的標籤是否正確。若團隊已有這層驗證、且想只留一家供應商,這是組織變動最小的做法。Cohere 公布的 token 價格可以估算成本,但估算取決於提示詞與輸出長度,而這兩者由你控制。
方案二:OpenAI Moderation API
審核 API 免費,因此成為許多團隊在分類器退役後的第一個嘗試。它回傳 13 個危害類別與 0 到 1 的 category_scores,omni-moderation-latest 接受文字與圖片,不處理音訊。對「用固定危害分類、零邊際成本篩選內容」這件事,它非常合適。
它不是自訂分類器的通用替代品。類別清單不是你的,因此用自家標籤分流發票、退款或產品意見的流程,無法在這裡表達那些標籤。部分類別只適用文字,純圖片請求在這些類別會得到零分。OpenAI 也提醒,依 category_scores 建立的自訂政策可能需要隨時間重新校準。請用在分類法與你的政策相符之處,並為業務標籤保留一個自己擁有的分類器。
方案三:Jev API Pro
Jev 是託管的型別化判定 API,針對較窄的情境:你有一份答案清單,想拿回其中一個,並在模型不確定時附上覆核旗標。標籤、指示與門檻都是請求欄位,所以清單外的答案屬於契約違規,而不是解析時的意外。choice 題接受 2 到 12 個標籤,score 題接受 2 到 7 個有序等級,一筆請求最多四個問題、計一個點數。
回應包含選中的標籤、供應商提供時的信心值,以及 needsReview 旗標。信心值可以是 null,我們不會補上預設值,因為虛構的數字會讓依賴它的覆核規則失效。這是刻意比聊天模型更小的產品:它不代寫回覆、不摘要文件、也不解釋答案。若那些屬於工作範圍,請在判定之後另跑一個步驟。
curl https://jevapi.pro/api/v1/decisions \
-H "Authorization: Bearer $JEV_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: ticket-88213-v1" \
-d '{
"text": "匯出檔從週二起就是空的,我週四要交給董事會。",
"instructions": "選擇負責修正的團隊;付費工作區的資料遺失要升級處理。",
"labels": ["帳務", "匯出", "帳號存取", "其他"],
"threshold": 0.85
}'先在正式流量之外驗證遷移
最安全的遷移很單調:讓舊路徑繼續運作,同時用同一批紀錄並行測試候選方案,等比較結果支持再切換。以下步驟適用於上述三個方案,不只 Jev。
- 匯出已標註樣本:有數百筆真實紀錄最好,包含模糊案例與最接近行動邊界的案例。
- 在看任何候選輸出之前先記錄預期答案,避免測試被調整到剛好符合結果。
- 把相同紀錄送給候選方案。文字中不要放不必要的個資與憑證。
- 比較一致率、你設定門檻下的覆核率,以及每種錯誤的代價。誤判為「帳務」比漏掉安全通報便宜;請分開加權。
- 安排一段影子期:候選方案只寫建議,仍由人決定。先量測建議被接受的比例,再自動化該步驟。
curl https://jevapi.pro/api/v1/decisions \
-H "Authorization: Bearer $JEV_API_KEY" \
-H "Content-Type: application/json" \
-H "Idempotency-Key: ticket-88213-v1" \
-d '{
"text": "匯出檔從週二起就是空的,我週四要交給董事會。",
"instructions": "選擇負責修正的團隊;付費工作區的資料遺失要升級處理。",
"labels": ["帳務", "匯出", "帳號存取", "其他"],
"threshold": 0.85
}'看「每筆被接受的判定」成本,而不是每次呼叫
三個方案的計費單位不能直接比較。OpenAI Moderation 免費。Cohere 按 token 計費:以其價格頁計算,Command 的 500 個輸入 token 與 50 個輸出 token 為 500 × $1.00/1M + 50 × $2.00/1M = $0.0006。這是依公布費率的算術,不是報價,且不含重試、失敗的生成與驗證輸出的工程時間。
Jev 採預付點數。Launch 為 $99 含 10,000 點,等於每筆成功請求 $0.0099;Growth 為 $299 含 50,000 點($0.00598),Scale 為 $699 含 150,000 點($0.00466)。單次補充包為 $19 含 1,000 點($0.019)。以原始單價看,Jev 比一次簡短的 Cohere 呼叫貴。只有把點數買到的東西算進去,比較才有意義:覆核旗標、請求歷史、API 金鑰,以及會拒絕清單外答案的請求契約。若你的流量極高、標籤簡單,按 token 計費的聊天呼叫可能更便宜;若團隊原本得自行打造並維護驗證與覆核層,點數價格就是「不必自己建」的成本。
什麼情況下不該切換
如果舊端點還會回應,而你唯一的計畫是原樣維持,那就不要遷移。這是「延後」的決定,在衡量流量與風險期間是合理的;請寫下重新檢視的日期,因為停止微調已經移除了讓延後顯得安心的備案。
若你的標籤描述的是業務流程而不是危害,不要遷移到固定類別的審核 API。若應用無法驗證生成輸出、也沒有人負責那層驗證,不要遷移到聊天模型。若你需要在每個答案旁附上書面解釋,也不要遷移到判定 API;那是另一種產品,事後補上生成理由是一個獨立步驟,需要自己的覆核。
常見問題
Cohere 的 Classify 端點關閉了嗎?
Cohere 的棄用頁面記載:使用預設 Embed 模型的 Classify 於 2025 年 1 月 31 日之後棄用,並把 /v1/classify 列為自 2025 年 9 月 15 日起的棄用端點。同一頁面沒有公布最終關閉日期,因此既有呼叫可能仍會回應;方向已確定:不要在這個端點上開發新功能。
我還可以繼續用微調過的 Classify 模型嗎?
不行。Cohere 自 2025 年 9 月 15 日起停止 command-light、command、command-r、classify 與 rerank 的微調,並說明先前微調的模型將無法再存取。遷移計畫不能假設舊模型仍可呼叫。
最接近 Cohere Classify 的替代方式是什麼?
有兩個誠實的答案。如果除了標籤還需要生成文字,Cohere Chat 搭配結構化回應可留在同一家供應商。如果應用只需要你自訂清單中的一個標籤,加上覆核旗標,像 Jev 這種界線明確的判定 API 契約更小:允許的答案寫在請求裡,而不是生成後再驗證。
Jev 會回傳校準過的機率嗎?
上游供應商提供時會回傳信心值,沒有提供時為 null。這個數字是模型自己的輸出,不是你用自家流量測出的準確率,不應解讀為答對的機率;缺值會送交覆核,不會補上預設分數。
一筆 Jev 請求能用幾個標籤?
choice 題接受 2 到 12 個標籤,一筆請求最多包含四個型別化問題;score 題接受 2 到 7 個有序等級。無論一題或四題,一筆成功請求都計一個點數。
Jev 與 Cohere 的價格怎麼比較?
Jev 採預付點數:Launch 每 30 天 $99 含 10,000 點、Growth $299 含 50,000 點、Scale $699 含 150,000 點,另有季繳與年繳,以及 $19 的 1,000 點單次包。Cohere 依模型按 token 計價,例如 Command 每百萬 token 輸入 $1.00、輸出 $2.00。兩者單位不同,請用自家流量比較「每一筆被接受的判定」成本。
可以在不切換正式流量的情況下測試替代方案嗎?
可以。匯出一批已標註的真實案例,把相同紀錄送給候選方案與現行流程,比較一致率、覆核率與每個錯誤的代價,再決定是否切換。Jev 的瀏覽器批次頁接受 CSV、TXT 或 JSONL,每列保留一個結果,評估階段不必先申請 API 金鑰。
