新聞

在政府推動主權AI政策下，法務部6月甫宣布啟動法務部專屬大型語言模型計畫，目的在打造司法AI平臺。不過，法務部此次並非自行打造一套大型語言模型（LLM），而是希望建立可持續擴充的AI共用平臺，讓未來各個業務單位都能在共同基礎上發展司法AI應用，而不必各自重複建置算力與模型。

法務部計畫打造法務領域LLM，與金管會先前聯手16家金融業者啟動金融LLM專案，為少數由政府部會或產業帶頭打造的適用我國法規、價值觀的特定領域專用大語言模型應用案例。

具有檢察官經歷的法務部綜合規畫司副司長古慧珍接受iThome採訪時表示，這項為期三年的計畫採取「底層資源共享、應用服務分流」架構，底層算力、模型與資料環境由平台統一提供，上層則依檢察、觀護、行政等不同業務需求，發展各式AI應用，未來也可持續擴充更多司法場景。

三層架構同步推進

法務部規畫的法務部專屬大型語言模型計畫共分為三層。第一層為AI基礎設施，包括GPU算力、資料湖（Data Lake）及推論環境；第二層為法務專屬大型語言模型；第三層則是建置各項司法AI Agent及應用服務。計畫分3年推動，2026年為試驗期，申請科發基金支應，經費約9千餘萬元，2027年為推廣期，2028年為優化期。

和傳統資訊系統的瀑布式開發不同，法務部並非等待第一層全部完成後才展開第二、三層，而是三層同步推進。

古慧珍表示，今年試驗期最重要的目標，是先完成整個三層架構的雛形，希望年底前建立可運作的平臺框架，後續2年再持續擴充各層能力，包括增加算力、導入更新的大型語言模型，以及發展更多司法AI應用。

她形容，整體架構更像是一個可持續成長的平臺，未來算力可以擴充、模型可以更換，應用也能持續增加，而不是一次建置完成後便固定不變。

目前第一層的算力及資料湖等基礎設施仍在建置中。

古慧珍表示，算力將會採取混合模式，第一階段將部分自建、部分租用，同時也評估未來與國家高速網路與計算中心合作，並保留依AI技術演進調整部署策略的彈性。

至於資料湖方面，今年才取得科發基金補助，目前仍在採購與建置階段，未來將儲存結構化與非結構化資料，作為模型訓練及知識檢索的重要基礎。

儘管第一層尚未完成建置，但第二、三層已同步啟動。

古慧珍指出，目前第二層的廠商已開始進行模型選型、建立法務語料、評測方法及模型微調規畫；第三層則同步和各個業務單位合作盤點需求，開發工作流程（Workflow）、AI Agent及系統整合。

她也特別說明，資料蒐集與資料湖建置是兩件不同的工作。資料湖只是資料存放平臺，不會自動蒐集資料，因此目前第二、三層團隊已與各業務單位同步整理判決書、卷證、法規及行政文件等資料，待資料湖建置完成後即可逐步匯入。

採多模型策略，兼顧效能與成本

第二層的模型方面，法務部並非從零訓練大型語言模型，而是採用開源模型，再結合法務專屬知識持續微調。

古慧珍表示，目前模型仍在選型階段，除了評估不同開源模型，也會持續關注新模型推出情況，由於目前AI語言模型技術的發展相當快，因此希望保留更換模型的彈性，而非綁定單一模型。未來可能採用多模型（Multi-LLM）架構，由一個或多個模型共同支援第三層AI應用。

法務部排除中國的開源模型，也不採用封閉式的商業模型，以兼顧資料安全與主權AI需求。至於國科會主導的主權AI模型TAIDE，她認為若未來Gemma-3-TAIDE等模型推出符合需求，也會考慮將其納入評估。

法務部規畫採用大型語言模型搭配小型語言模型（SLM）的方式，透過模型蒸餾（Distillation）等技術，兼顧模型推論品質與運算成本，讓不同司法場景能依需求選擇合適模型。

法務部模型評測不追求「最強模型」，而是驗證是否符合業務需求

在大型語言模型選型上，法務部的目標並非以打造一個各項能力都最強的通用模型為主，而是希望建立符合司法業務需求的評測方式。古慧珍表示，目前不同大型語言模型各有優勢，有的模型擅長推理、有的擅長程式或文件處理，因此評估重點不在於模型整體能力排名，而是「看語言模型有沒有符合我的需求」。

古慧珍指出，每一種應用場景都有不同的評測標準，例如檢察業務需要模型協助處理案件文件、整理卷宗或抽取關鍵資訊，所需能力與其他行政應用並不相同。因此，法務部規劃以實際業務需求建立評測資料與方法，並非是要追求一個涵蓋所有能力的模型。

「我不需要一個全能的，我只需要說我的落地應用哪一塊需要它」，她說。未來法務部將依據不同業務情境，持續評估模型表現，若有新的開源模型推出，也會透過既有的評測資料與方法重新驗證，選擇更符合第一線需求的模型。

古慧珍強調，目前法律領域專屬的大型語言模型評測仍在發展階段，因此法務部會逐步累積自身的資料與案例，建立適用於法務場景的評測基準，讓模型能力能真正支援司法工作的實際需求。

第三層聚焦AI Agent

第三層應用則聚焦AI Agent。

古慧珍表示，AI應用廠商不需要重新訓練大型語言模型，而是負責設計工作流程、整合模型能力，並利用RAG知識檢索、Agent Skills等技術，來完成各項司法業務單位的工作任務。換言之，第二層負責讓模型「變得更聰明」，第三層則負責讓AI「完成工作」。

目前規畫中的應用包括AI檢察助理、AI觀護助理及行政AI工具，協助卷證標註、判決書整理、前案資料整理、行政文書及報告草稿生成等等，希望減少第一線法務工作人員的大量重複性文書工作。

法務部初步估算，AI導入後可望節省約3成文書作業時間，不過目前仍屬推估值，後續仍需透過實際應用驗證。

全程落地部署，年底完成AI治理規範

由於司法資料涉及高度敏感資訊，法務部此次AI平臺採落地部署（On-premises）架構，不使用公有AI服務處理敏感資料。

為降低AI幻覺風險，法務部也規畫透過RAG限制模型引用法務資料庫內容，同時導入Human in the Loop機制，由檢察官、觀護人保留最終決策權，AI僅負責文書整理及輔助分析，不直接取代司法判斷。

配合《人工智慧基本法》要求各部會建立AI治理制度，法務部目前已成立AI資料治理諮詢會，討論資料治理、人員管理及內控制度，預計今年10月前完成法務部AI使用規範及內控管理機制，作為未來司法AI落地的重要治理基礎。