EnaGuard
Conceptos centrales, en términos claros
Las conversaciones sobre arquitectura de IA en el Consejo a menudo se estancan por una brecha de vocabulario común. Este glosario explica los conceptos centrales usados en la guía y el sitio, no jerga de ingeniería, sino el conjunto mínimo de conceptos que los ejecutivos necesitan para hacer las preguntas correctas.
Conceptos Fundamentales
Un modelo de IA entrenado con grandes volúmenes de texto que puede generar respuestas en lenguaje natural. A menudo es el punto de partida de la arquitectura de IA empresarial, pero por sí solo no representa capacidad empresarial.
Una categoría de sistemas de IA que producen texto, imágenes, audio o código nuevos; a diferencia de los modelos clásicos de predicción/clasificación, generan salidas probabilísticas y creativas.
Un modelo a gran escala entrenado con datos amplios y de propósito general, adaptable a muchas tareas; la mayoría de las aplicaciones empresariales lo usan directamente o lo personalizan.
Un componente de IA que puede interpretar un objetivo, descomponerlo en pasos, consultar fuentes de datos empresariales, invocar herramientas y completar transacciones bajo condiciones definidas. → ¿Para quién? / ¿Qué es EnaGuard?
Una arquitectura en la que múltiples agentes comparten tareas e información para trabajar juntos; crea requisitos de coordinación y autorización más complejos que un modelo de un solo agente.
Un sistema de IA que procesa datos de texto, imagen, audio, video y sensores dentro del mismo flujo de trabajo; cada tipo de dato conlleva distintos requisitos de almacenamiento, privacidad y seguridad.
A diferencia de los grandes modelos de propósito general, un modelo más pequeño entrenado o adaptado para producir resultados más rápidos, económicos y consistentes en una tarea o dominio específico.
El proceso de entrenar adicionalmente un modelo fundacional para adaptarlo a una tarea específica o al conjunto de datos propio de una organización.
Una técnica de optimización que reduce la precisión numérica de un modelo para que funcione con menos recursos y menor latencia.
Un modelo de IA que se ejecuta cerca de donde se generan los datos (equipo de campo, línea de producción, vehículo, tienda); surge de la necesidad de baja latencia y operación sin conexión.
Datos generados artificialmente que conservan propiedades estadísticas similares a los datos reales; se pueden usar para entrenamiento o pruebas de modelos cuando existen restricciones sobre datos sensibles.
Arquitectura & Componentes del Sistema
Un enfoque arquitectónico que permite a un modelo recuperar y usar información relevante de fuentes empresariales al generar una respuesta. → ¿Qué es EnaGuard?
Una base de datos que convierte texto en vectores numéricos y realiza búsquedas de similitud semántica sobre ellos; un componente central de los sistemas RAG.
La reordenación de los candidatos devueltos por una búsqueda inicial mediante un modelo más potente; afecta directamente la calidad de las respuestas en RAG.
El proceso de dividir un documento en fragmentos más pequeños y significativos antes de indexarlo; la calidad del chunking afecta la precisión de la búsqueda.
Una capa entre las aplicaciones y los servicios de modelos que centraliza el acceso, el enrutamiento, la aplicación de políticas, el control de costos y el registro. → ¿Qué es EnaGuard?
Dirigir una solicitud al modelo más adecuado según el caso de uso, la clase de datos, el objetivo de latencia o el límite de costo.
Un protocolo de integración que permite a modelos y agentes conectarse a fuentes de datos y herramientas mediante un método común.
La disciplina de gestionar modelos, prompts, conjuntos de datos y configuraciones de forma trazable a lo largo del desarrollo, pruebas, lanzamiento y producción.
Identidad, Autorización & Control de Agentes
El principio de que un agente o usuario debe tener únicamente los derechos de datos y transacciones requeridos para su tarea.
La identidad digital que un agente o componente del sistema usa para acceder a recursos empresariales; cada agente debería idealmente tener una cuenta de servicio propia y trazable.
Credenciales de acceso válidas por tiempo limitado y renovadas automáticamente, en lugar de contraseñas o claves de larga duración; esto limita el impacto de una filtración.
Un principio de diseño que exige aprobación humana para acciones que superan un umbral de riesgo definido.
Un mecanismo que detiene rápidamente a un agente y revoca su acceso cuando se detecta un comportamiento inesperado, una violación de autorización o una cadena de decisión defectuosa.
Resiliencia & Operaciones
Un patrón de resiliencia que interrumpe temporalmente las llamadas a una dependencia con fallos para evitar que el error se propague por el sistema.
Un diseño que permite que un servicio continúe mediante un modelo secundario, una función limitada o un proceso manual cuando el modelo o proveedor principal no está disponible.
El reintento controlado de una solicitud tras un error transitorio; como los reintentos descontrolados pueden amplificar un problema, requiere una política centralizada y acotada.
Glosario de Seguridad & Amenazas
Un intento de secuestrar el comportamiento del modelo mediante instrucciones incrustadas en la entrada del usuario o en contenido procesado como un documento, una página web, un correo o la salida de una herramienta.
Una capa de protección que verifica las entradas y salidas de un modelo frente a límites de comportamiento aceptable.
Pruebas adversariales independientes que descubren debilidades en un sistema antes de que lo haga un atacante real.
La manipulación deliberada de datos de entrenamiento, datos de ajuste fino o fuentes RAG para corromper el comportamiento del modelo.
El campo de ataque y defensa que usa entradas específicamente diseñadas para inducir al error al mecanismo de decisión de un modelo.
Copiar el comportamiento de un modelo a partir de sus salidas (extracción), o inferir información sobre sus datos de entrenamiento (inversión); ambos conllevan riesgo de propiedad intelectual y privacidad.
Empleados que usan herramientas de IA de terceros sin conocimiento ni aprobación de la organización; puede hacer invisibles para la organización los flujos de datos corporativos.
Datos que pueden identificar directa o indirectamente a una persona (como un nombre, un documento de identidad o un correo); requieren protección especial bajo el RGPD y regulaciones equivalentes.
Lenguaje de evidencias & Madurez
Una capacidad que el equipo simplemente afirma que existe; la evidencia de respaldo aún es limitada.
La arquitectura, política, procedimiento o estándar ha sido definido; puede que aún no esté implementado en producción.
La tecnología o el control correspondiente ha sido desplegado y configurado.
La capacidad ha sido validada bajo escenarios normales, de carga, de fallo y de ataque.
Un nivel de capacidad respaldado por registros de producción, métricas, registros de pruebas y datos de incidentes, monitoreado y mejorado de forma continua.
No solo que un sistema de IA funcione, sino que pueda operarse de forma segura, escalable y sostenible en condiciones reales de producción.
La verificación, con evidencia, de las capacidades de arquitectura de IA declaradas por una organización, realizada por una parte independiente y libre de conflictos de interés. → ¿Qué es EnaGuard?
Un control se declara existente, pero su alcance, responsabilidad, vinculación con producción o estado de prueba son inciertos, de modo que el estado real permanece invisible.
Una vista basada en evidencia de madurez, confianza en la evidencia, cobertura de alcance, riesgo residual, resultado de control de calidad y límite de afirmación; no es una puntuación única.
Cuando la persona que presenta la evidencia y quien la revisaría son la misma, un revisor independiente debe aprobarla antes de que cuente; sin esto, la confianza en el resultado se reduce.
Gobernanza, Cumplimiento & Estándares
Un estándar internacional para un Sistema de Gestión de IA (AIMS); busca ayudar a las organizaciones a gestionar los riesgos de IA de forma sistemática.
Un estándar internacional sobre gestión de riesgos de IA.
Un marco voluntario de gestión de riesgos de IA del Instituto Nacional de Estándares y Tecnología de EE. UU., estructurado en las funciones Govern / Map / Measure / Manage.
Una iniciativa de investigación de seguridad de código abierto y contribución global, centrada en los riesgos de seguridad de los sistemas basados en LLM y agentes.
Una base de conocimiento actualizada continuamente que recopila tácticas y técnicas de ataque reales contra sistemas de IA.
Un marco de controles de nube y seguridad para sistemas de IA desarrollado por la Cloud Security Alliance.
La regulación de IA basada en riesgo de la Unión Europea; impone obligaciones más estrictas a los sistemas de alto riesgo.
El Reglamento General de Protección de Datos de la Unión Europea; determina directamente cómo pueden procesar datos los sistemas de IA.
El país o región donde se procesan y almacenan los datos; un parámetro arquitectónico que determina directamente decisiones regulatorias, de latencia y de seguridad.
Modelos de Implementación
Un modelo de implementación en el que las cargas de trabajo de IA se ejecutan principalmente en plataformas en la nube, bajo restricciones regulatorias y de datos relativamente flexibles.
Un modelo de implementación en el que algunas cargas de trabajo se ejecutan en la nube y otras en infraestructura interna, bajo un uso restringido de la nube.
Un modelo de implementación totalmente aislado de redes externas, típicamente elegido para requisitos de alta confidencialidad o infraestructura crítica.
Un modelo de implementación en el que la infraestructura de IA se alberga en el propio centro de datos de la organización.
¿Quiere el panorama completo, con los riesgos y preguntas detrás de cada término? La Guía para Ejecutivos lo recorre todo.