新聞

Cloudflare推出自行訓練的決策模型Clef與Clef-flash,兩款模型已整合至Workers AI,並以Apache 2.0授權開放模型權重。Clef採用與Jev相容的程式介面,既有使用Jev的應用較容易改用Clef,主要用於AI代理進行分類、判斷或決定下一步動作。

決策模型和一般大型語言模型負責的工作不同,大型語言模型可以產生文字、進行推理或操作工具,決策模型則專門處理範圍明確的判斷。開發者先設定可接受的答案,模型讀取輸入資料後,直接回傳符合指定格式的答案及各選項機率。

例如客服系統收到使用者訊息後,可以交由Clef判斷案件是否緊急、應由業務、帳務或技術團隊處理,以及問題嚴重程度。應用程式取得結果後,就能直接分派案件、啟動後續流程,或在模型無法確定時交由人工處理。

Clef除了文字也能處理圖片,上下文長度為64K,Cloudflare表示,Clef與較著重速度的Clef-flash分別以Qwen3.8-27B與Qwen3.5-9B為基礎,再針對決策工作進行訓練。

推論方式是兩款模型縮短處理時間的關鍵,一般生成式AI通常需要逐步產生輸出內容,Clef則先讀取輸入資料,再直接針對預先設定的答案計算分數,不必先產生一段文字。因此在AI代理只需要進行分類或選擇下一步動作時,可以省下產生文字的過程。

依Cloudflare公布的43項評測結果,Clef的中位延遲為209.3毫秒,Clef-flash為38.8毫秒,Jev則為524.1毫秒。不過各模型在不同測試的準確度並非全面由Clef領先,例如Jev在部分測試仍取得較高成績。

Clef與Clef-flash目前可透過Workers AI直接使用,開發者也能從Hugging Face取得模型權重自行執行。Cloudflare另外開始提供模型微調服務,由工程團隊協助客戶依特定工作調整Clef,後續規畫再推出自助式平臺,讓客戶自行準備資料、微調並重新部署模型。