Enterprise AI Platform：具備安全 AI 架構與 LLM 無關架構

為何企業需要的是安全的 AI 平台，而不只是 LLM

大型語言模型（LLM）的快速發展，促使許多組織開始探索生成式 AI 的應用。企業使用者很快便意識到，AI 擁有巨大的潛力，能夠提升生產力、自動化重複性工作，並釋放蘊藏於數百萬份企業文件中的寶貴知識。

然而，對大型企業，尤其是受監管產業的組織而言，真正的問題從來不只是選擇哪一種 LLM。真正的挑戰在於，如何在不影響治理、法規遵循、智慧財產權及資料主權的前提下，安全地導入 AI。

公有 AI 服務或許適用於一般用途的工作，但企業環境需要更高層級的控制能力。敏感文件、合約、工程圖紙、客戶紀錄、財務報告及政府資訊，都不能在未充分考量法規要求、安全政策及內部治理規範的情況下，直接上傳至外部 AI 服務。

因此，越來越多組織開始認知到，企業 AI 的基礎並非語言模型本身，而是安全企業 AI 平台（Secure Enterprise AI Platform），它負責管理 AI 如何存取資訊、執行任務，以及與既有業務系統整合。

語言模型只是更完整 AI 架構中的其中一個元件。elDoc 平台提供企業部署 AI 所需的安全性、治理能力、協調編排能力及靈活性，協助組織以負責任的方式推動 AI 應用，同時讓企業能自由選擇最符合當前需求的 LLM，並隨著技術持續演進，輕鬆導入新的模型。

對政府、醫療保健、金融服務、製造、公用事業、能源、國防及關鍵基礎設施等產業的組織而言，安全性無法事後補強，而必須從一開始就深植於 AI 平台的每一層架構之中。

安全的企業 AI 架構可確保每一次 AI 互動，都遵循與企業資訊及業務流程相同的治理規範與安全政策，全面維持一致的保護標準。

elDoc 的核心功能包括：

• 企業身分驗證（Active Directory、LDAP、多因素驗證（MFA））
• 角色型存取控制（RBAC）
• 繼承自企業文件儲存庫的文件層級存取權限
• 文件、Embedding（嵌入向量）及向量資料庫加密
• 完整記錄每一次 AI 互動的稽核軌跡
• 適用於敏感或高風險操作的人員審核工作流程
• 支援地端部署、私有雲、混合雲及主權雲環境的彈性部署
• 符合內部治理政策、產業法規要求，並支援監控與稽核

安全的 elDoc Enterprise AI Platform 並非要求組織調整既有安全政策來配合 AI 服務，而是讓 AI 能在企業既有的安全邊界內運作。

每個 AI Agent 僅能存取個別使用者已獲授權檢視的資訊。每一項回應皆以受治理的企業知識為基礎生成。每一項操作都可追蹤、可稽核，並完全符合企業法規遵循要求。

這種「安全內建（Secure-by-Design）」的方法，讓組織能安心導入生成式 AI，同時完整掌控自身資料、持續符合法規要求，並保有自由選擇、組合及替換 LLM 的彈性，以因應 AI 技術持續演進。

LLM 無關架構：自由選擇最適合的 AI

AI 生態正以前所未有的速度快速演進。幾乎每隔幾個月，新一代大型語言模型（LLM）便帶來更強的推理能力、更優異的多語言支援、更低的延遲、更出色的文件理解能力，或大幅降低的運作成本。

今天選擇的單一 LLM，並不代表明天仍會是最佳選擇。

正因如此，具前瞻性的組織正逐步擺脫與單一模型供應商高度綁定的 AI 平台，轉而採用 LLM 無關架構，使企業能靈活整合及切換多種商業、開源或私有語言模型，而無須重新設計業務應用程式或工作流程。

LLM 無關架構將企業 AI 平台與底層語言模型分離。平台負責管理企業知識、安全性、工作流程、系統整合及 AI 治理，而 LLM 則成為可依據不同任務需求靈活替換的推理引擎。

此架構可協助組織避免供應商綁定（Vendor Lock-in），同時持續受惠於快速演進的 AI 生態系所帶來的最新創新成果。

單一企業，多種 AI 模型

在實際應用中，沒有任何一種語言模型能在所有任務上都表現最佳。

有些模型擅長複雜推理與多步驟規劃；有些則在文件擷取、程式碼生成、多語言溝通或長篇文件分析方面表現卓越。對於完全在地端執行的機密工作負載，開源模型通常是較佳選擇；而對於面向公眾的應用程式，雲端基礎模型則可能提供更優異的效能。

因此，企業 AI 平台應具備同時協調多個 LLM 的能力，而非強制所有請求都交由單一模型處理。

例如，企業可以採用：

• 用於 Agentic RAG 的高效能推理模型；
• 用於文件摘要的高成本效益模型；
• 用於 OCR 校正與資料擷取的專用模型；
• 用於翻譯及國際協作的多語言模型；
• 用於機密或受監管資訊的私有地端模型；
• 用於非敏感業務工作的雲端模型。

每一項 AI 請求都會自動路由至最適合該工作負載的模型，在效能、品質、安全性、延遲及成本之間取得最佳平衡。

此智慧協調機制可協助企業最佳化 AI 投資，同時確保使用者始終獲得最佳的處理結果。

elDoc 的 LLM 無關架構如何運作

下圖展示了 elDoc 的核心設計理念之一：平台本身不依賴任何特定的大型語言模型（LLM）。elDoc 並非將業務邏輯嵌入單一 AI 模型，而是作為智慧協調層，安全地整合並協調企業知識、AI 模型、OCR 服務及業務應用程式。

此架構讓組織能持續採用最先進的 AI 技術，而無須修改既有業務應用程式，也不必犧牲安全性。

1. 所有元件皆保留於客戶的基礎架構內

無論部署於地端、私有雲或主權雲，整個 AI 平台皆運行於組織自身的環境中。

這表示企業文件、向量資料庫、中繼資料、AI Agent 及協調服務，皆由組織全權掌控。

僅需連接所選用的 LLM。如有安全性或法規遵循要求，這些 LLM 亦可完全運行於客戶自身的基礎架構內。

2. elDoc — 企業 AI 平台

elDoc 是整體架構的核心，這個智慧平台將企業使用者、業務應用程式、企業知識與 AI 模型整合至單一且安全的環境中。

與公有 AI 服務不同，使用者無須直接與語言模型互動，而是透過 elDoc 完成所有操作。平台負責提供一致的使用體驗、落實安全政策、執行業務流程、協調 AI 服務，並與企業系統深度整合。

換言之，elDoc 是企業 AI 平台，而 LLM 僅是平台所運用的眾多技術之一。

使用者實際看到的是什麼？

員工無須知道是哪一個 LLM 正在回答問題或處理文件。

他們只需使用熟悉的企業應用程式，即可：

• 透過 Agentic RAG 與企業知識安全對話。
• 透過單一介面搜尋多個文件儲存庫中的文件。
• 啟動 AI Document Agents 執行各項業務任務。
• 摘要合約、報告、電子郵件及技術文件。
• 比較文件版本並識別差異。
• 從發票、表單、往來文件及工程文件中擷取資訊。
• 產生報告、會議記錄、信函及各類商務文件。
• 啟動或核准業務工作流程。
• 透過文件共享與審核流程，安全地與同事協作。
• 等更多功能。

對使用者而言，這是一個完整且智慧化的企業應用程式，而非多種 AI 工具的組合。

每一項 AI 請求背後的智慧中樞

每一次互動都始於 elDoc，而非 LLM。

在呼叫任何 AI 模型之前，平台會先執行一系列企業級作業。

平台會透過 Microsoft Active Directory、LDAP、多因素驗證（MFA）等企業身分識別系統驗證使用者身分，並確認其存取權限、組織角色及安全政策，之後才決定可存取哪些企業資訊。

接著，平台會自動決定：

• 應搜尋哪些資料儲存庫；
• 應採用語意搜尋、關鍵字搜尋，或兩者結合；
• 掃描文件是否需要進行 OCR 處理；
• 應由哪些 AI Document Agents 參與處理；
• 結果是否需要驗證、重新排序（Reranking）或進一步推理；
• 執行操作前是否需要人工核准。

所有協調流程皆自動完成，讓員工能專注於業務工作，而非 AI 技術本身。

3. 企業知識層（Enterprise Knowledge Layer）

任何企業 AI 平台的智慧程度，都取決於企業知識的品質、可存取性及組織方式。

elDoc 並非將所有資訊集中儲存在單一資料儲存庫，而是採用由多種資料庫組成的專屬企業知識層（Enterprise Knowledge Layer），每一種資料庫皆針對不同用途進行最佳化。它們共同支援 Agentic RAG 與 AI Document Agents，以卓越的速度與精準度擷取、理解、關聯及推理企業資訊。

此分層架構結合傳統資料庫技術與現代 AI 語意搜尋，使平台能回答僅靠關鍵字搜尋無法處理的複雜商業問題。

MongoDB – 企業中繼資料儲存庫

MongoDB 儲存支援平台運作的結構化資訊，包括文件中繼資料、分類、擷取出的實體資訊、工作流程狀態、使用者權限及稽核記錄。它作為企業營運知識儲存庫，將文件與業務情境緊密連結。

全文搜尋資料庫（Full-Text Search Database）

全文搜尋資料庫可在企業內容中提供高速關鍵字搜尋。它會為文件標題、檔案名稱、中繼資料及全文內容建立索引，讓使用者與 AI Agent 能透過精確關鍵字、片語、文件編號或業務屬性快速找到所需文件。

向量資料庫（Vector Database）

向量資料庫儲存代表企業文件語意內容的 AI Embeddings（嵌入向量）。它讓 Agentic RAG 能根據語意情境而非關鍵字進行資訊檢索，即使文件使用不同的專業術語，AI 仍能找到相關內容。

這三種資料儲存庫共同提供混合式檢索（Hybrid Retrieval），整合結構化中繼資料、關鍵字搜尋及語意搜尋，為 AI Agent 與大型語言模型（LLM）提供最相關的資訊，進而實現更精確的回答、更優異的推理能力，以及更高品質的業務成果。

4. OCR 服務：智慧文件辨識

企業文件通常以掃描 PDF、紙本文件、影像，或使用行動裝置拍攝的照片等形式提交。當這些文件上傳至 elDoc 後，平台會立即自動啟動已設定的 OCR 服務，辨識並擷取其中的內容。

elDoc 支援多種雲端及地端 OCR 引擎，讓組織能依據準確度、效能、安全性及法規遵循需求，選擇最適合的解決方案。

OCR 完成後，擷取出的文字將自動建立索引、補充中繼資料、轉換為 Embeddings（嵌入向量），並立即可供全文搜尋（Full-Text Search）、Agentic RAG、AI Document Agents 及工作流程自動化使用。這可確保即使是掃描文件或影像文件，也能被 AI 完整搜尋、理解並執行相關作業。

LLM 無關架構與多模型 AI

elDoc 的一大核心優勢，在於其 LLM 無關架構（LLM-Agnostic Architecture）。平台並非依賴單一大型語言模型（LLM），而是可同時支援多種 AI 模型，讓組織能針對不同業務任務選擇最合適的模型。

在平台背後，elDoc 至少運用五種專業 AI 模型，每一種模型皆針對不同功能進行最佳化，包括對話式 AI、推理與 AI Agent、文件理解、視覺語言處理（Vision-Language）、語意 Embeddings（嵌入向量）及結果重新排序（Reranking）。此模組化架構可確保 AI 工作流程中的每個環節，都能使用最適合其用途的模型。

組織可自由選擇領先的商業、私有或開源 LLM，包括 OpenAI GPT、Anthropic Claude、Google Gemini、Meta Llama、Kimi、Mistral、DeepSeek、Qwen，以及完全部署於地端環境的各類模型。

例如：

• 企業聊天助理可採用 GPT-4.1 Mini、Gemini Flash 或 Llama 3 等高成本效益模型，在維持優異對話體驗的同時，最大限度降低營運成本。
• 對於合約分析、法律摘要生成或策略決策支援等複雜推理任務，可採用 Claude Opus 或 GPT-5 等更先進的模型，更強大的推理能力能創造更高的商業價值。
• 處理中文文件，或業務遍及亞洲地區的組織，可選擇 DeepSeek 或 Qwen，這些模型已針對中文理解能力及亞洲地區商業情境進行最佳化。
• 高度機密的工作負載可完全透過私有地端 LLM 處理，確保敏感資訊始終留存在組織自身的基礎架構內，不會外流。

由於 elDoc 將 Enterprise AI Platform 與底層語言模型分離，組織無須變更既有應用程式、工作流程或使用者體驗，即可持續評估並導入最新 AI 技術。隨著 AI 生態持續演進，企業可靈活替換、組合或最佳化各種模型，在準確度、效能、安全性及成本之間取得最佳平衡，確保企業 AI 投資具備長期價值，並避免供應商綁定（Vendor Lock-in）。

使用 elDoc 建立安全的 Enterprise AI Platform

生成式 AI 正在徹底改變企業的工作模式，但要實現長遠成功，關鍵不僅在於選擇最新的語言模型，更需要一個兼具安全性、治理能力及未來擴充性的 AI 平台，能夠整合企業知識、自動化業務流程，並隨著快速演進的 AI 生態持續發展。

透過 elDoc，組織可建置安全的 Enterprise AI Platform，具備 LLM 無關架構（LLM-Agnostic Architecture）、Agentic RAG、AI Document Agents、智慧文件處理（Intelligent Document Processing），以及與既有企業系統的無縫整合能力。無論採用地端部署、私有雲或混合雲環境，皆能靈活支援。

歡迎與 elDoc 專家洽詢，了解您的組織如何安全部署生成式 AI、選擇最符合業務需求與法規遵循要求的 LLM，並將企業文件與知識轉化為智慧化業務自動化能力。

立即預約專屬產品展示，探索安全 Enterprise AI 的未來。