新聞

前OpenAI研究員Diogo Almeida創辦的AI新創TypeSafe，公開決策型AI模型Jev，現已開放所有使用者使用。Jev捨棄大型語言模型逐字生成文字的做法，直接回傳事先限定的選項、分數或是非機率，讓軟體把模型判斷用於分類、路由、評分與流程分支。Jev不是用來產生文章、程式碼或對話，而是把AI作為軟體流程中的判斷元件。

傳統LLM依前一個詞元逐一生成下一個詞元，應用程式收到文字或結構化內容後，需要解析與驗證，而Jev改採平行取樣，一次計算多個輸出，省去逐字生成過程。開發者先限制模型能回傳的答案與資料型別，再把判斷結果交給程式使用。

TypeSafe表示Jev不會產生幻覺，因為其輸出受到型別限制，無法回傳預先定義範圍以外的資料型別。不過，型別正確不代表判斷正確，Jev仍可能在合法選項中選錯答案。

效能方面，TypeSafe公布Jev端到端回應時間為70至500毫秒，並稱相同類型的決策工作速度可達部分大型語言模型的40至200倍，官方工作流程測試另得到193.6倍速度與444.6倍成本差距。TypeSafe也說明，193.6倍與444.6倍屬實務效益較高的測試結果，工作流程由公司團隊建立，可能存在偏差，相關數字並非獨立測試結果。

Jev主要面向能事先界定答案範圍的軟體工作，例如分類、路由、評分、資料處理與即時應用。Diogo Almeida曾參與OpenAI的指令遵循模型研究，TypeSafe經過兩年低調開發後於9月15日公開Jev，首波採早期存取方式，9月21日取消候補名單，開放所有使用者使用。

Jev在Hacker News論壇被熱烈討論，討論集中在Jev與既有分類模型、LLM結構化輸出的差異，以及「不會產生幻覺」是否適合描述只保證輸出型別的模型。Vercel則表示，Jev上架AI Gateway後24小時內已有近13%的付費團隊使用，首日觸及團隊數超過先前任何新模型2倍，成為AI Gateway歷來採用速度最快的新模型。