提升文件資料擷取準確度:AI Prompt 與 LLM 設定

從文件中擷取資料,已不再是文件自動化中最具挑戰的環節。

現代 AI 能以令人印象深刻的準確度辨識發票、合約、採購訂單、銀行對帳單、身分證明文件、表單、往來函件,以及許多其他類型的文件。然而,擷取出一個數值,並不等同於產生可靠且可直接用於業務的資料。

模型可能正確讀取文件中的12,500.00,卻仍無法判斷這個數值代表的是小計、稅額、發票總額、信用額度,還是完全不同的其他資訊。

這正是生成式 AI 設定發揮重要作用的地方。

借助 elDoc 等平台,企業可以超越傳統 OCR 的能力,根據文件與資料的實際語意設定 AI。這包括:

  • 在文件類型層級設定 AI Prompt
  • 在個別欄位層級設定 AI Prompt
  • 為不同的文件類型選擇適合的 LLM
  • 根據任務需求設定 LLM Temperature
  • 驗證並交叉核對擷取出的資訊
  • 針對 AI 輸出設定業務規則與確定性控制機制
  • 在需要時導入 Human-in-the-Loop 人機協作驗證

目標並不只是擷取更多資料,而是產生更準確、一致、經過驗證且可實際運用的企業資料。

從文件類型與 AI 文件分類開始

不同類型的文件需要不同的 AI 處理方式。

發票與合約的處理方式並不相同。銀行對帳單與身分證明文件也各有不同,而即使外觀幾乎完全相同的文件,也可能需要根據其內容、業務情境或特定識別資訊進行不同分類。

因此,AI 的設定應從文件類型層級開始。

借助生成式 AI,文件分類不必僅依賴文件版面、關鍵字或預先定義的範本。透過 AI Prompt,可以定義具體的業務邏輯,決定文件應如何被辨識與分類。

例如,企業可能需要處理多種類型的協議,而這些協議的結構非常相似。與其嘗試透過文件外觀加以區分,不如在分類 Prompt 中指示 AI 分析特定的合約代碼:

分析文件並識別合約代碼。如果文件中存在合約代碼 003,將文件分類為商業協議。如果存在合約代碼 002,將文件分類為政府協議。如果存在合約代碼 001,將文件分類為框架協議。請勿僅根據文件標題或視覺版面判斷文件類型。如果無法可靠識別上述任何指定代碼,則將文件分類為一般協議。

分類邏輯可以進一步變得更加精細。AI 可以同時考量多項資訊,例如:

如果識別到代碼 002,或合約相對方為政府機關且文件中包含公共採購相關資訊,則將文件分類為政府協議。如果出現相互衝突的判斷依據,請勿自行推定,而應將文件分類為一般協議。

這正是傳統文件分類與AI 驅動的文件分類之間的一項重要差異。

傳統的分類方式通常會問:

「這份文件看起來屬於哪一種類型?」

而生成式 AI 則可以被指示去判斷:

「根據我們的業務規則以及文件所包含的資訊,這份文件屬於哪一種類型?」

因此,分類 Prompt 可以納入文件代碼、識別資訊、相對方、專業術語、合約條款、金額、日期、業務情境,或多項條件的組合。

因此,文件分類成為確保資料品質的第一層:先正確理解文件的類型,再決定應從中擷取哪些資訊。

使用 AI Prompt 進行驗證,而不只是資料擷取

生成式 AI 最具價值的應用之一,就是利用 AI 驗證擷取出的資訊。

例如,在擷取發票中的各項金額後,可以指示 AI 檢查以下算式是否成立:

小計 + 稅額 − 折扣 = 總金額

AI 也可以比對文件其他位置中的相關資訊。

欄位 Prompt 可以設定以下指示:

擷取發票總金額,並與發票中所列的小計、適用稅額、折扣及其他調整項目進行核對。如果計算出的金額與發票所載總金額不一致,則回傳 0 值,以表示驗證未通過。

類似的邏輯可以應用於多種文件處理流程:

文件 AI 驗證範例
發票 驗證小計、稅額與總金額
採購訂單 比對各明細項目總額與採購訂單總金額
合約 比對所載日期與合約期間
銀行對帳單 核對期初餘額、交易與期末餘額
KYC 文件 跨文件比對姓名、日期與識別資訊
申請表 識別缺漏或相互矛盾的資訊
保險理賠申請 比對申請理賠金額與佐證文件中的相關資訊

這也凸顯了AI 資料擷取與AI 輔助的資料品質管理之間的重要差異。

設定 AI 處理缺漏與模糊資訊

資料品質不佳的一大原因,並非 OCR 辨識錯誤,而是錯誤的推定,或文件中根本不存在關鍵資訊。

如果 AI 找不到某個數值,未受限制的模型可能會嘗試根據周邊資訊推斷該數值。在某些情境下,這可能有所幫助,但在其他情況下則無法接受。對於業務關鍵欄位而言,與其將無法由文件可靠佐證的資訊填入系統,通常不如不回傳任何值。

這類行為可以透過欄位設定進行配置。例如:

完全按照文件中的內容擷取客戶稅務識別號碼。請勿根據其他資訊推測、產生或推導該數值。如果文件中不存在客戶稅務識別號碼,或無法可靠地識別該號碼,則不回傳任何值。

但有時,回傳空值只是整個流程的開始。

如果某個欄位是業務流程中的必填欄位,則可以進行相應設定。當 AI 未能為必填欄位回傳任何值時,系統可以自動觸發驗證或例外處理工作流程,而不是讓文件繼續進行直通式處理(Straight-Through Processing)。

例如,必填的客戶稅務識別號碼可能根本不存在於收到的文件中。AI 無法擷取文件中不存在的資訊。在這種情況下,系統可以自動將文件轉交給使用者進行審查。

這也形成了一項重要區分:

AI 資料擷取決定哪些資訊可以從文件中可靠地取得;業務驗證則決定這些資訊是否足以讓流程繼續進行。

相同的方法也可以應用於模糊資訊。例如:

如果文件中存在多個銀行帳戶號碼,請選擇明確標示為付款帳戶的帳號。如果無法可靠判斷應使用哪個帳戶,請勿任意選擇其中一個,而應不回傳任何值。

採用這種方式後,缺漏或模糊的資訊不會在未經察覺的情況下成為低品質的企業資料,而會轉化為受控的例外情況,並可自動觸發適當的驗證流程及 Human-in-the-Loop 人機協作審查。

因此,良好的 AI 設定不僅需要定義AI 應擷取哪些資訊,也需要明確規定AI 不應自行推定哪些資訊,以及當必要資訊無法從文件中可靠取得時應如何處理。

為每種文件類型選擇適合的 LLM

另一項重要的設定決策是:應由哪個模型處理文件?

並非所有文件都需要使用相同的 LLM。

不同模型在推理能力、視覺文件理解、多語言處理、處理速度、上下文視窗大小、部署方式、資料駐留及成本等方面,各有不同的優勢。

採用LLM 無關架構後,企業不必為所有文件處理情境選擇同一個模型。

相反地,可以根據文件類型與業務需求選擇適合的模型。

文件類型 模型需求
標準發票 快速、準確且具成本效益的資料擷取
複雜合約 強大的推理能力與大型上下文視窗
掃描表單 強大的視覺與文件理解能力
多語言文件 強大的多語言處理能力
KYC 文件 高準確度、視覺理解能力與受控處理
往來函件 強大的語意理解與分類能力
大型財務報告 大型上下文視窗與分析推理能力

例如,一家每年處理數十萬份格式相對標準化發票的企業,可能會優先考量處理速度、準確度與處理成本。

對於複雜的法律協議,企業則可能偏好推理能力更強的模型,即使其推論時間較長。

因此,模型選擇也成為提升資料品質與處理效率的另一項重要手段。

根據任務需求設定 LLM Temperature

選定 LLM 後,另一個會影響模型行為的重要參數是 Temperature。

簡單來說,Temperature 控制的是模型在產生回應時選擇下一個 Token 的隨機程度。模型會先針對可能的下一個 Token 計算機率分佈,再由 Temperature 在選擇 Token 前調整這個分佈。

在較低的 Temperature 下,機率分佈會變得更加集中。模型更傾向於選擇高機率的回應,因此其輸出通常會更加一致、可預測且可重複。

在較高的 Temperature 下,機率分佈會變得更加平坦,更多替代 Token 會具有合理的可能性,從而增加生成回應的變化性與多樣性。

可以簡單理解為:

較低的 Temperature → 優先追求一致性與精確度。
較高的 Temperature → 允許更多變化與探索。

Temperature 並不直接代表準確度或智慧程度。將 Temperature 設為 0 並不能保證答案正確,而提高 Temperature 也不會讓模型具備更好的推理能力。Temperature 主要改變的是生成結果的變異程度。

文件處理應使用哪種 Temperature?

對大多數企業文件處理任務而言,所需的模型行為與創意內容生成有很大不同。

當擷取發票號碼、增值稅(VAT)金額、客戶名稱、合約日期、IBAN、採購訂單號碼或其他結構化資訊時,通常只有一個正確答案。

如果發票號碼是INV-2026-00482,企業不希望模型在不同的處理批次中產生不同的解讀。

對於這類任務,較低的 Temperature 通常是適合的起始設定。

Temperature 典型行為 適用的文件與 AI 情境
0–0.0 高度確定性與聚焦 欄位擷取、發票號碼、日期、金額、識別資訊、文件分類、規則式檢查
0.1–0.3 大致一致,同時保有有限的靈活性 條款識別、實體辨識、文件解讀、合規性分析
0.3–0.5 更靈活的語言表達與解讀 文件摘要、往來函件分析、分析結果說明
0.5–0.7 更高的變化性與更廣泛的表述方式 草擬回覆、產生描述內容、提供不同的解釋方式
0.7+ 高度變化性與創造力 腦力激盪與創意內容生成;通常較不適合結構化的企業文件資料擷取

這些範圍僅供參考,並非適用於所有情況的通用標準。不同模型與供應商的 Temperature 範圍及實際行為可能有所不同,而部分較新的推理模型可能會限制 Temperature 的設定,或完全採用其他控制參數。

Temperature 0–0.0:結構化資料擷取

當 AI 需要回傳文件中已存在的特定數值或資訊時,此範圍特別適合。

例如:

按照文件中顯示的內容,準確擷取發票號碼。請勿包含標籤或其他文字。

其他適用情境包括:

  • 發票號碼與採購訂單號碼;
  • 日期與金額;
  • 稅務編號與登記編號;
  • 客戶與供應商識別資訊;
  • 銀行帳戶資訊;
  • 預先定義的文件分類;
  • 結構化輸出。

目標並非追求創意,而是讓 AI 對相同資訊做出盡可能一致且可靠的解讀。

Temperature 0.1–0.3:受控解讀

某些文件處理任務需要進行解讀,而不只是簡單的資料擷取。

例如,AI 可能需要判斷合約是否包含自動續約條款、識別終止條款、對費用進行分類,或判斷是否符合特定的合規要求。

在這類情況下,有限度的靈活性會有所幫助,因為相同的概念可能以許多不同的方式表達。

例如:

判斷本協議是否包含自動續約條款。如果存在,請識別續約期間以及不續約所需的通知期限。

回應仍需受到控制並以文件中的證據為依據,但 AI 必須解讀語言,而不是單純尋找某個確切的數值。

Temperature 0.3–0.5:摘要與語意分析

當模型不需要以單一固定的方式產生精確表述時,適中的 Temperature 可能更為合適。

例如:

  • 合約摘要;
  • 說明文件中的差異;
  • 解讀客戶往來函件;
  • 摘要保險理賠申請內容;
  • 說明合規性檢查結果;
  • 說明文件被轉交進行驗證的原因。

例如:

請以五個精簡要點摘要本協議所載的主要商業義務。

這類摘要可以有多種同樣合理的表述方式,因此適度的差異是可以接受的。

Temperature 0.5 以上:生成式任務

當目標從資料擷取與驗證轉向內容生成時,較高的 Temperature 會更為適用。

例如,AI 可以利用從文件中擷取的資訊草擬客戶回覆、撰寫說明性內容、產生不同版本的描述,或根據處理後的資料建立溝通內容。

在這些情境下,更高的變化性可能會帶來益處。

然而,對於業務關鍵的文件資料擷取,通常應謹慎使用較高的 Temperature,因為變化性通常不是資料擷取所期望的特性。

Temperature 應與 Prompt 搭配設定

不應孤立地考量 Temperature。

較低的 Temperature 無法彌補模糊不清的 Prompt。

例如,要求 AI:

找出相關日期。

無論 Temperature 設定為何,這項指示都存在歧義。

更明確的指示應該是:

擷取發票開立日期。請勿回傳付款到期日、交貨日期、採購訂單日期或文件處理日期。請以 YYYY-MM-DD 格式回傳。如果無法可靠地識別發票開立日期,則不回傳任何值。

將精確的欄位層級 AI Prompt 與適當的低 Temperature 設定相結合,可以為模型提供更加明確的輸出範圍。

相同的原則也適用於文件分類、驗證與分析。

不存在通用的「最佳」Temperature

人們很容易想尋找一個最佳 Temperature,並將其套用於所有 AI 流程。但在實際應用中,適當的設定取決於具體任務。

因此,企業可以在同一個文件處理環境中採用不同的設定:

發票號碼 → Temperature 0

發票分類 → Temperature 0.1

合約條款分析 → Temperature 0.2

合約摘要 → Temperature 0.4

客戶溝通內容草擬 → Temperature 0.6

重要原則是根據預期答案的性質來設定模型。

當應該只有一個精確答案時,應優先採用較低的 Temperature;當多種有效的表述方式或解讀都有價值時,則可以適當提高 Temperature。

對於 AI 驅動的文件處理而言,這意味著結構化資料擷取、分類與驗證通常會採用較低的 Temperature 範圍,而摘要與生成式應用情境則可以逐步提高靈活性。

最終,Temperature 是另一個重要的設定層,與 LLM 選擇、文件類型層級 Prompt、欄位層級 Prompt、驗證規則及 Human-in-the-Loop 控制機制共同協助企業,讓 AI 的行為符合不同文件處理情境對資料品質的要求。

無需成為 AI 專家,也能設定 AI

改善 AI 驅動的文件處理,不應需要資料科學家、Prompt 工程師或耗時漫長的 AI 專案。

借助 elDoc,這些功能專為一般業務使用者而設,可直接進行設定。熟悉自身文件與業務流程的使用者,只需告訴 AI 應尋找哪些資訊、如何解讀資訊、哪些資訊應視為有效,以及在資訊缺漏或存在歧義時應如何處理。

文件類型、AI 分類指示、欄位層級 AI Prompt、LLM 選擇、Temperature、必填欄位、驗證邏輯以及 Human-in-the-Loop 人機協作流程,都可以相互配合,持續提升從文件中擷取的資料品質。

此外,企業無需從零開始。作為 GenAI 驅動的平台,elDoc 從第一天起即可提供開箱即用的文件理解與資料擷取能力,無需訓練傳統資料擷取模型,也不必為每種文件版面建立範本。透過進一步的設定,企業可以根據自身的文件、術語、業務規則與資料品質要求,調整 AI 的行為。

原則很簡單:您不需要成為 AI 專家,也能告訴 AI 您的業務需要什麼。

與 elDoc 專家洽談,了解 elDoc 如何從第一天起為企業創造價值,同時讓您的團隊能夠靈活地持續改善 AI 驅動的文件辨識、資料擷取與驗證。

讓我們聯繫我們

與 elDoc 專家洽談,了解如何運用 elDoc 立即創造業務價值

回答您的問題或安排演示以了解我們的解決方案的實際應用:只需給我們留言