Arquitectura agnóstica respecto a los LLM y Multi-LLM Orchestration: cómo elDoc aporta flexibilidad de modelos a la IA empresarial

El panorama de la IA generativa evoluciona a un ritmo que hace cada vez más difícil justificar una estrategia empresarial de IA basada en un único modelo de lenguaje de gran escala (LLM).

Surgen nuevos modelos de forma continua. Los modelos existentes mejoran, los precios cambian, se amplían las opciones de implementación y evolucionan los requisitos empresariales de seguridad y cumplimiento normativo. Al mismo tiempo, cada modelo presenta fortalezas distintas en áreas como el razonamiento, la comprensión de documentos, el procesamiento multilingüe, la extracción de información, la síntesis y otras cargas de trabajo empresariales.

Para las organizaciones que integran la IA en múltiples procesos de negocio, la pregunta ya no es simplemente «¿Qué LLM debemos elegir?»

La cuestión más importante es:

¿Cómo podemos diseñar una arquitectura empresarial de IA que permita utilizar el modelo adecuado para cada proceso, manteniendo al mismo tiempo el control sobre los datos, la seguridad, la gobernanza, la implementación y las futuras decisiones tecnológicas?

Este es el principio que sustenta la arquitectura agnóstica respecto a los LLM y las capacidades de Multi-LLM Orchestration de elDoc.

En lugar de estructurar los procesos empresariales en torno a un único proveedor de IA, elDoc incorpora una capa de orquestación entre las aplicaciones empresariales, los procesos de negocio, los datos de la organización y los modelos de IA subyacentes.

El resultado es una arquitectura que permite asignar distintos modelos a diferentes cargas de trabajo, ejecutar múltiples modelos de forma simultánea en un mismo entorno empresarial y mantener las cargas de trabajo sensibles completamente aisladas mediante modelos implementados en entornos privados.

Una plataforma empresarial. Múltiples modelos de IA.

Los distintos procesos empresariales responden a necesidades fundamentalmente diferentes.

Un proceso de KYC puede implicar cientos de documentos, contenido multilingüe, validación cruzada entre documentos, análisis del riesgo del cliente y razonamiento complejo.

La evaluación crediticia puede requerir un análisis exhaustivo de estados financieros, documentación de préstamos, información sobre garantías y documentos de respaldo.

El procesamiento de facturas puede priorizar la extracción y clasificación de grandes volúmenes de documentos, su validación y la automatización de los flujos de trabajo.

El procesamiento de información altamente confidencial de clientes puede plantear un requisito completamente distinto: los datos nunca deben salir de la infraestructura bajo el control de la organización.

Por tanto, no hay razones para asumir que un único modelo será siempre la opción óptima para todos estos escenarios.

Con elDoc, las organizaciones pueden diseñar su arquitectura de IA en función de las necesidades específicas de cada proceso.

Por ejemplo:

• El procesamiento de KYC puede ejecutarse con Kimi, cuando sus capacidades se ajusten a las necesidades de la carga de trabajo de KYC de la organización.
• La evaluación crediticia puede utilizar Claude para analizar documentos y realizar razonamientos complejos sobre la documentación relacionada con préstamos.
• El procesamiento de facturas puede utilizar modelos de OpenAI para la comprensión de documentos, la extracción y validación de información y el procesamiento mediante IA generativa.
• El procesamiento de datos sensibles de clientes puede utilizar un modelo de pesos abiertos implementado íntegramente on-premises o en la nube privada/VPC de la organización, manteniendo los datos utilizados por la IA dentro de la infraestructura de la organización.

Estos casos de uso no tienen por qué gestionarse como proyectos de IA independientes.

Pueden operar dentro de la misma plataforma empresarial elDoc, bajo una arquitectura común de seguridad, procesamiento documental, gestión de flujos de trabajo, monitorización y orquestación de IA.

De la integración de LLM a la orquestación de LLM

Conectar una aplicación con varias API de LLM es relativamente sencillo.

Una arquitectura empresarial Multi-LLM requiere mucho más.

elDoc incorpora una GenAI Orchestration Layer que actúa entre las aplicaciones empresariales y el ecosistema de modelos subyacente. En lugar de depender directamente de un modelo concreto, las aplicaciones pueden gestionar las solicitudes de IA a través de esta capa de orquestación.

Según el escenario implementado, la elDoc GenAI Orchestration Layer puede incorporar capacidades como las siguientes:

Capacidad de orquestación	Función
Comprensión de la intención	Identifica el objetivo del usuario, del proceso documental, del AI Document Agent o del flujo de trabajo automatizado y determina la ruta de procesamiento adecuada.
Selección del modelo	Dirige cada solicitud al LLM o modelo multimodal más adecuado en función del caso de uso, la complejidad de la tarea, los requisitos de seguridad, las políticas de implementación, el rendimiento y otros criterios predefinidos.
Optimización de prompts	Adapta las instrucciones, el contexto y los parámetros del modelo al modelo seleccionado y a la tarea empresarial concreta para mejorar la calidad y la consistencia de los resultados generados por la IA.
Síntesis de respuestas	Transforma y consolida los resultados de los modelos en información estructurada que puede ser utilizada por usuarios, aplicaciones, API, flujos de trabajo, AI Document Agents o etapas posteriores del procesamiento.
Seguridad y gobernanza	Aplica las políticas empresariales relativas al acceso a modelos, el procesamiento de datos, los repositorios autorizados, los permisos de usuario, las operaciones de IA y los requisitos de residencia de datos.
Observabilidad y evaluación	Proporciona visibilidad sobre el uso de la IA, el rendimiento de los modelos, la calidad del procesamiento, el consumo de tokens y los costes asociados, facilitando la evaluación y optimización continuas de los distintos modelos y casos de uso.

El objetivo no es simplemente conectar múltiples LLM. Es crear una capa inteligente de orquestación que determine qué modelo debe ejecutar cada tarea, bajo qué requisitos de seguridad y residencia de datos, y con qué nivel de rendimiento y coste.

Esta abstracción es especialmente importante porque el modelo de IA se convierte en un componente reemplazable de la arquitectura, en lugar de constituir la arquitectura en sí misma.

El modelo adecuado para cada tarea

Una arquitectura agnóstica respecto a los LLM no significa que todos los modelos se traten como equivalentes.

Todo lo contrario.

Reconoce que los modelos son diferentes y convierte esas diferencias en una ventaja arquitectónica.

Una organización puede determinar que un modelo ofrece mejores capacidades de razonamiento para casos crediticios complejos, mientras que otro proporciona una mejor relación entre coste y rendimiento para el procesamiento de grandes volúmenes de documentos. Un tercer modelo puede ofrecer un rendimiento especialmente sólido con un idioma o tipo de documento relevante para la organización.

Para otra carga de trabajo, puede estar prohibido por completo el uso de servicios externos de IA.

elDoc permite integrar estas diferencias en la arquitectura de IA, en lugar de obligar a todos los procesos de negocio a utilizar el mismo modelo.

Por tanto, una configuración empresarial simplificada podría ser la siguiente (ejemplo ilustrativo):

Proceso empresarial	Configuración de IA	Requisito principal
KYC y diligencia debida del cliente	Kimi	Análisis intensivo de documentos y grandes volúmenes de contexto
Evaluación crediticia	Claude	Razonamiento y análisis complejos de documentos
Procesamiento de facturas	OpenAI	Comprensión de documentos y procesamiento automatizado
Datos confidenciales de clientes	LLM privado de pesos abiertos	Procesamiento on-premises y residencia de los datos utilizados por la IA
Asistente de conocimiento interno	Cualquier LLM compatible	Recuperación segura de información desde repositorios autorizados
Comprensión visual de documentos e imágenes	Qwen-VL	Comprensión multimodal de documentos, imágenes, diseños y contenido visual

La selección concreta de modelos sigue siendo una decisión empresarial y puede evolucionar al mismo ritmo que la estrategia de IA de la organización.

Residencia de los datos de IA: cuando la información no puede salir de la organización

Para bancos, organismos públicos, proveedores sanitarios, instituciones financieras y otras organizaciones reguladas, el rendimiento del modelo es solo uno de los factores que deben considerarse al tomar decisiones sobre IA.

El lugar donde se procesa la información mediante IA puede ser igual de importante.

Determinados documentos pueden contener información de clientes, datos financieros, acuerdos confidenciales, información de identificación personal, información interna de la organización u otros datos sujetos a regulación.

Por ello, las organizaciones pueden establecer políticas de procesamiento mediante IA diferenciadas según la categoría de información.

Para cargas de trabajo estándar, pueden utilizarse modelos comerciales externos aprobados o alojados en entornos privados.

Para cargas de trabajo altamente sensibles, elDoc puede configurarse con modelos de pesos abiertos implementados en la propia infraestructura del cliente, ya sea on-premises, en una nube privada o en un entorno VPC controlado.

Con esta configuración, la organización puede mantener el control sobre:

• dónde se almacenan los documentos;
• dónde se procesan los prompts y la información contextual;
• dónde se implementa el LLM;
• a qué repositorios puede acceder la IA;
• qué usuarios y procesos pueden invocar el modelo;
• y dónde se conservan los resultados generados por la IA y los registros de actividad.

Esto convierte la residencia de los datos de IA en una capacidad arquitectónica, no simplemente en una condición contractual.

Por ejemplo, un banco podría permitir que un modelo basado en la nube procese determinados documentos operativos no sensibles, mientras exige que la documentación que permita identificar a los clientes se procese exclusivamente mediante un modelo implementado en su propia infraestructura.

Ambas cargas de trabajo pueden seguir siendo orquestadas a través de elDoc.

Evitar la dependencia de un único proveedor de IA

La dependencia de un único proveedor de IA se está convirtiendo en un factor cada vez más relevante en las estrategias empresariales de IA generativa. Un modelo que hoy parece óptimo no necesariamente seguirá siéndolo dentro de dos años.

Un proveedor puede modificar sus precios.

Una nueva generación de otro modelo puede ofrecer un rendimiento significativamente superior.

Un modelo que antes solo estaba disponible en la nube puede pasar a ofrecerse para implementaciones privadas.

Nuevos requisitos regulatorios pueden determinar dónde pueden procesarse determinadas cargas de trabajo.

O una organización puede simplemente negociar condiciones empresariales más favorables con otro proveedor.

Cuando los procesos de negocio están estrechamente vinculados a un único modelo, cambiar de proveedor puede exigir un esfuerzo considerable de rediseño y desarrollo de las aplicaciones.

Una arquitectura agnóstica respecto a los LLM reduce esta dependencia al separar la arquitectura de las aplicaciones empresariales y del procesamiento documental de la capa de modelos subyacente.

De este modo, las organizaciones pueden evaluar nuevos modelos e incorporarlos progresivamente sin tener que rediseñar todo su entorno de gestión documental y automatización.

Los futuros modelos como extensión de la arquitectura

La orquestación Multi-LLM también permite prepararse para modelos que aún no existen. Los modelos que hoy lideran determinados benchmarks no serán necesariamente los que las empresas elijan mañana.

Por ello, la arquitectura de elDoc se basa en un ecosistema de modelos extensible, en lugar de depender de una lista fija de proveedores de IA.

A medida que nuevos modelos y modalidades de implementación resulten adecuados para el uso empresarial, podrán evaluarse e incorporarse a la arquitectura en función de los requisitos de la organización.

Esto permite a las organizaciones optimizar de forma continua factores como:

precisión, calidad del razonamiento, seguridad, latencia, modalidad de implementación, residencia de los datos, capacidad de contexto, rendimiento lingüístico y coste por caso de uso.

En lugar de exigir una nueva estrategia empresarial de IA cada vez que cambia el panorama de modelos, la arquitectura subyacente está diseñada para adaptarse a esa evolución.

De «¿Qué LLM?» a «¿Qué arquitectura de IA?»

Las empresas no deberían tener que predecir qué LLM dominará el mercado dentro de varios años para poder empezar a implementar IA generativa hoy.

Un enfoque más sostenible consiste en construir una arquitectura capaz de adaptarse a medida que evolucionan los modelos, la regulación, los costes y los requisitos empresariales.

Con elDoc, una organización puede ejecutar KYC con Kimi, evaluaciones crediticias con Claude, procesamiento de facturas con OpenAI y cargas de trabajo con datos de clientes altamente sensibles mediante modelos de pesos abiertos implementados en entornos privados, manteniendo todos estos procesos dentro de un único entorno gobernado de gestión documental y automatización de IA.

Mañana, la organización puede optar por otros modelos.

Los procesos de negocio, la base de datos empresariales, los controles de seguridad, los flujos de trabajo, la gobernanza de la IA y la arquitectura documental no tienen por qué cambiar cada vez que se modifica la elección del modelo.

Ese es precisamente el propósito de una arquitectura agnóstica respecto a los LLM.

Y Multi-LLM Orchestration lleva este concepto un paso más allá: no se trata simplemente de proporcionar a las empresas acceso a múltiples modelos, sino de permitirles determinar qué modelo utilizar, para qué carga de trabajo, bajo qué condiciones de seguridad y residencia de datos, y como parte de qué proceso de negocio.

La ventaja competitiva no reside, por tanto, en elegir un único LLM «mejor».

Reside en construir una plataforma empresarial de IA capaz de utilizar de forma continua la IA adecuada para cada tarea, sin renunciar al control sobre la arquitectura, los procesos ni los datos.

Construya una arquitectura de IA preparada para evolucionar

Para las empresas, la cuestión ya no es en qué único LLM estandarizarse, sino cómo construir una arquitectura de IA capaz de adaptarse continuamente a medida que evolucionan los modelos, las necesidades del negocio, las políticas de seguridad, los costes y las exigencias regulatorias.

Con la arquitectura de elDoc agnóstica respecto a los LLM y sus capacidades de Multi-LLM Orchestration, las organizaciones pueden combinar modelos comerciales y modelos de pesos abiertos implementados en entornos privados dentro de un único entorno empresarial, seleccionando la IA adecuada para cada caso de uso y manteniendo el control sobre los datos, los accesos, los flujos de trabajo, la gobernanza de la IA y la residencia de los datos.

KYC puede ejecutarse con un modelo, la evaluación crediticia con otro y la inteligencia documental visual con un modelo multimodal, mientras que la información de clientes especialmente sensible puede permanecer íntegramente en un entorno de IA on-premises. A medida que surjan modelos más avanzados, la arquitectura podrá evolucionar sin tener que reconstruir los procesos de negocio subyacentes en torno a un nuevo proveedor de IA.

El objetivo no es predecir qué LLM será el mejor mañana. Es garantizar que su arquitectura empresarial esté preparada para utilizarlo.

¿Está planificando una iniciativa de GenAI empresarial o evaluando cómo integrar la orquestación Multi-LLM en tu arquitectura actual?

Habla con un experto de elDoc para analizar tus casos de uso, los requisitos de seguridad y residencia de datos de IA, la estrategia de modelos y las opciones de implementación, y descubrir cómo diseñar una arquitectura agnóstica respecto a los LLM adaptada a las necesidades de tu organización.