Ir al contenido principal

AP Ingeniería

RAG y seguridad de datos: cómo evitar que una IA revele información confidencial de tu empresa

Cada vez más empresas están conectando sus sistemas de inteligencia artificial con documentos internos, bases de conocimiento, manuales, contratos, reportes financieros y repositorios corporativos. La idea es sencilla: permitir que un modelo de IA consulte información propia para ofrecer respuestas más precisas, contextualizadas y útiles para los empleados. Esta capacidad ha impulsado la adopción de arquitecturas conocidas como RAG (Retrieval-Augmented Generation), que permiten combinar modelos de lenguaje con fuentes de información empresariales.

Sin embargo, cuando una IA puede consultar documentos internos, también aparece una pregunta que muchas organizaciones todavía no están resolviendo: ¿qué información puede consultar cada usuario y qué garantías existen de que el sistema no revele datos que deberían permanecer restringidos?

Una implementación de RAG mal diseñada puede exponer información financiera, datos personales, estrategias comerciales, contratos o información técnica sensible. Y el riesgo no está únicamente en el modelo de IA. También puede estar en los permisos de los documentos, los mecanismos de búsqueda, la forma en que se recupera el contexto y las reglas que controlan la respuesta generada.

Por eso, proteger una solución de IA empresarial requiere algo más que configurar un modelo y conectarlo a una base vectorial. Es necesario diseñar una arquitectura que respete los controles de acceso existentes, limite la información recuperada y permita supervisar qué datos utiliza el sistema para responder.

 

¿Qué es RAG y por qué se está utilizando en las empresas?

RAG, o generación aumentada por recuperación, es una arquitectura que permite a un modelo de lenguaje consultar información externa antes de generar una respuesta. En lugar de depender exclusivamente de los conocimientos adquiridos durante su entrenamiento, el modelo recibe fragmentos de documentos relevantes para responder una pregunta utilizando información específica de la organización.

Por ejemplo, una empresa puede implementar un asistente interno que consulte sus políticas de recursos humanos, procedimientos operativos, manuales técnicos y documentación comercial. Cuando un empleado pregunta cómo solicitar unas vacaciones, el sistema busca el procedimiento correspondiente, recupera los fragmentos relevantes y los entrega al modelo para que construya una respuesta.

Esta arquitectura tiene una ventaja importante: permite trabajar con información empresarial actualizada sin necesidad de entrenar nuevamente el modelo cada vez que cambia un documento. También facilita la incorporación de nuevas fuentes de información y permite mantener los datos corporativos en repositorios controlados por la organización, dependiendo de la infraestructura elegida.

¿Cómo funciona una arquitectura RAG?

Aunque existen diferentes implementaciones, el proceso suele tener cinco etapas:

  1. Ingesta de información: los documentos se recopilan desde repositorios corporativos, archivos, bases de datos o plataformas de gestión documental.
  2. Fragmentación: el contenido se divide en unidades más pequeñas, conocidas como chunks, para facilitar su recuperación.
  3. Vectorización e indexación: cada fragmento se transforma en una representación numérica o embedding, que permite realizar búsquedas por similitud semántica.
  4. Recuperación de contexto: cuando un usuario formula una pregunta, el sistema busca los fragmentos que considera más relevantes y los recupera.
  5. Generación de respuesta: el modelo recibe la pregunta junto con el contexto recuperado y genera una respuesta basada en esa información.

El punto crítico está en la cuarta etapa. El sistema debe recuperar información relevante, pero también debe comprobar que el usuario tenga autorización para acceder a ella. Si esta validación no existe o se ejecuta incorrectamente, el modelo puede recibir documentos que el usuario nunca debería consultar.

 

Los principales riesgos de seguridad de datos en una implementación RAG

Una arquitectura RAG puede funcionar correctamente desde el punto de vista técnico y, aun así, presentar problemas importantes de seguridad. Esto ocurre porque la calidad de las respuestas no garantiza que la información utilizada sea apropiada para cada usuario.

En un entorno empresarial, no todos los empleados tienen los mismos permisos. Un integrante del área comercial puede consultar información de clientes, pero no necesariamente acceder a los salarios de la organización. Un analista financiero puede trabajar con reportes presupuestales, mientras que un proveedor externo debería tener acceso únicamente a la documentación relacionada con su servicio.

Cuando una solución RAG no contempla estas diferencias, puede convertirse en un canal adicional de exposición de información.

1. Recuperación de documentos sin validar los permisos del usuario

Este es uno de los errores más delicados. Algunas implementaciones conectan un repositorio documental con una base vectorial y permiten que el sistema recupere fragmentos de cualquier documento indexado. Si no existe una validación de permisos durante la recuperación, el modelo puede recibir información confidencial aunque la persona que realiza la consulta no tenga autorización para verla.

Imaginemos una compañía que utiliza un asistente de IA conectado a SharePoint. En ese repositorio existen documentos de recursos humanos, informes financieros, contratos con proveedores y procedimientos operativos. Un empleado del área de soporte pregunta cuánto gana el director comercial. Si el sistema busca en todos los documentos sin aplicar los permisos correspondientes, podría recuperar información salarial y entregarla al modelo como parte del contexto.

La exposición puede producirse incluso cuando el usuario no solicita directamente un archivo confidencial. Una pregunta formulada de manera indirecta puede ser suficiente para activar la recuperación de información que no debería estar disponible para esa persona.

2. Información confidencial almacenada en bases vectoriales sin controles adecuados

Las bases vectoriales permiten organizar y consultar grandes cantidades de información mediante embeddings. Sin embargo, transformar un documento en vectores no elimina su sensibilidad ni lo convierte en información anónima.

Los sistemas suelen conservar los fragmentos originales o referencias que permiten recuperarlos, junto con metadatos asociados a cada registro. Por tanto, si una base vectorial contiene información financiera, datos personales o documentación contractual, debe protegerse con controles de acceso, cifrado, segmentación y políticas de retención.

También es importante revisar quién puede consultar directamente esa infraestructura. Una base vectorial expuesta, una credencial compartida o una configuración incorrecta pueden permitir que terceros accedan a información que la empresa considera confidencial. La seguridad debe contemplar tanto las consultas realizadas desde la aplicación de IA como el acceso directo a los componentes que almacenan los datos.

3. Instrucciones maliciosas dentro de documentos corporativos

Otro riesgo aparece cuando los documentos que alimentan el sistema contienen instrucciones diseñadas para manipular el comportamiento del modelo. Este escenario está relacionado con la inyección indirecta de prompts, una técnica en la que un atacante introduce instrucciones maliciosas dentro de contenido que posteriormente será procesado por una IA.

Pensemos en una empresa que permite a sus empleados consultar contratos, archivos PDF y documentación recibida de terceros mediante un asistente RAG. Un documento aparentemente normal podría incluir instrucciones ocultas o texto que indique al modelo ignorar las reglas anteriores y revelar información de otros documentos.

Si el sistema no trata el contenido recuperado como información no confiable, el modelo podría interpretar esas instrucciones como parte de su contexto operativo. El riesgo aumenta cuando el asistente también dispone de herramientas para consultar bases de datos, enviar correos o ejecutar acciones en sistemas corporativos.

Por esta razón, los documentos recuperados deben considerarse fuentes de datos, nunca fuentes de autoridad sobre las instrucciones del sistema. Esta separación es fundamental para reducir la posibilidad de que el contenido de un archivo altere las reglas de seguridad del asistente.

4. Exposición de datos personales y financieros

Los repositorios empresariales suelen acumular información que no fue creada pensando en su utilización mediante inteligencia artificial. Una carpeta puede contener hojas de cálculo con números de identificación, teléfonos, direcciones, datos bancarios o información relacionada con empleados y clientes.

Cuando estos documentos se incorporan a una arquitectura RAG sin clasificación previa, la IA puede recuperar información personal que no necesita para responder las consultas habituales. Además de representar un riesgo de seguridad, esta práctica puede generar problemas de cumplimiento normativo.

En Colombia, la Ley 1581 de 2012 establece el régimen general de protección de datos personales y contempla principios como finalidad, acceso y circulación restringida, seguridad y confidencialidad. Una organización que utilice IA para consultar información personal debe revisar que el tratamiento de esos datos tenga una finalidad legítima y que existan medidas apropiadas para impedir accesos no autorizados.

 

Cómo diseñar una arquitectura RAG que proteja la información empresarial

La seguridad no debería incorporarse cuando el asistente ya está funcionando y los empleados comenzaron a utilizarlo. Los controles deben formar parte del diseño inicial, desde la selección de los documentos hasta la generación y entrega de cada respuesta.

Esto implica trabajar sobre varias capas: identidad, permisos, clasificación de información, recuperación, infraestructura y monitoreo. Ninguna medida aislada garantiza la protección completa, pero una arquitectura bien estructurada puede reducir considerablemente la superficie de exposición.

1. Aplicar los permisos antes de recuperar la información

Una de las medidas más importantes es implementar controles de acceso durante la recuperación de documentos, no solamente después de que el modelo genera una respuesta.

Para lograrlo, cada documento o fragmento debe conservar metadatos relacionados con su propietario, clasificación, área responsable y permisos de acceso. Cuando un empleado realiza una consulta, el sistema debe identificar su identidad y recuperar únicamente los registros que estén dentro de sus autorizaciones.

Por ejemplo, si un usuario pertenece al departamento de recursos humanos, el sistema puede consultar documentos asociados a esa área, siempre que sus permisos específicos lo permitan. Si otro empleado realiza la misma pregunta, la recuperación debe respetar sus propias autorizaciones, aunque ambos utilicen exactamente el mismo asistente.

Este mecanismo se conoce como access control filtering o filtrado de acceso. Su implementación debe considerar los permisos heredados, las restricciones por documento y los cambios que se produzcan en los sistemas de origen. No basta con asignar permisos una sola vez durante la indexación: también es necesario mantenerlos actualizados cuando una persona cambia de cargo o pierde acceso a determinada información.

2. Clasificar los documentos antes de incorporarlos al sistema

No todos los documentos corporativos deberían estar disponibles para una solución de IA. Antes de indexar la información, es conveniente establecer una clasificación que permita determinar qué contenidos pueden utilizarse, bajo qué condiciones y quién está autorizado para consultarlos.

Una clasificación sencilla puede contemplar cuatro niveles:

  • Pública: información que puede compartirse sin restricciones especiales.
  • Interna: documentación destinada exclusivamente al personal de la organización.
  • Confidencial: información comercial, contractual, financiera o estratégica con acceso restringido.
  • Restringida: datos personales sensibles, credenciales, información bancaria u otros contenidos sujetos a controles especiales.

Esta clasificación debe estar acompañada de reglas técnicas. Por ejemplo, una política puede impedir que los documentos restringidos se incorporen a una base vectorial de uso general, mientras que los documentos confidenciales pueden quedar disponibles únicamente para grupos autorizados.

También es recomendable utilizar herramientas de detección de información sensible para identificar datos personales, números de identificación, credenciales o información financiera antes de procesar los archivos. Así se reduce la posibilidad de que documentos que nunca debieron formar parte del repositorio terminen disponibles para el asistente.

3. Separar los repositorios y las bases de conocimiento

En organizaciones con diferentes departamentos, una única base de conocimiento compartida puede complicar la aplicación de permisos y aumentar el riesgo de exposición accidental.

Una alternativa consiste en separar las fuentes de información por áreas, niveles de confidencialidad o dominios de negocio. De esta manera, los documentos financieros, los archivos de recursos humanos y la documentación comercial pueden administrarse mediante repositorios con políticas diferenciadas.

La separación no necesariamente exige desplegar una infraestructura independiente para cada departamento. Puede implementarse mediante particiones lógicas, espacios de nombres, colecciones o mecanismos de aislamiento que ofrezca la tecnología utilizada. Lo importante es que la arquitectura impida que una consulta termine accediendo a información de otro dominio sin autorización.

En entornos de mayor exigencia, esta segmentación también facilita las auditorías, la administración de permisos y la aplicación de políticas de retención. Si un área necesita retirar determinados documentos, es posible gestionar su eliminación o actualización sin afectar innecesariamente el resto de la base de conocimiento.

4. Proteger los datos durante todo su ciclo de vida

La información utilizada por una solución RAG pasa por diferentes componentes: sistemas de origen, procesos de ingesta, almacenamiento documental, bases vectoriales, servicios de recuperación y modelos de lenguaje. Cada uno representa un punto que debe protegerse.

El cifrado en tránsito mediante TLS y el cifrado en reposo ayudan a reducir el riesgo de exposición ante accesos no autorizados. También es necesario gestionar adecuadamente las credenciales, limitar las conexiones entre servicios y evitar que las claves de acceso queden almacenadas directamente en el código de las aplicaciones.

Otro aspecto importante es la retención de información. Cuando un documento se elimina del repositorio original o pierde vigencia, la empresa debe asegurarse de que también se actualicen o eliminen sus fragmentos y embeddings asociados. De lo contrario, el asistente podría seguir recuperando información que ya no debería estar disponible.

Este proceso requiere sincronización entre las fuentes originales y los índices utilizados por RAG. La actualización de los documentos debe formar parte de la operación habitual de la plataforma, no depender exclusivamente de tareas manuales.

5. Limitar el contexto que recibe el modelo

Incluso cuando el sistema aplica correctamente los permisos, es conveniente controlar la cantidad de información que entrega al modelo. Una consulta no necesita recibir documentos completos si puede responderse con unos pocos fragmentos relevantes.

La recuperación debe limitarse a los contenidos estrictamente necesarios para resolver la pregunta. Esto puede lograrse mediante filtros por metadatos, límites de resultados, umbrales de similitud y técnicas de recuperación híbrida que combinan búsqueda semántica con búsqueda por palabras clave.

También es recomendable aplicar técnicas de enmascaramiento o anonimización cuando determinados datos no sean indispensables para generar una respuesta. Por ejemplo, un asistente que consulta estadísticas comerciales puede trabajar con identificadores internos en lugar de exponer nombres, teléfonos o datos personales de los clientes.

Reducir el contexto no solo mejora la eficiencia de la arquitectura. También disminuye la cantidad de información confidencial que llega al modelo y limita las consecuencias de una eventual manipulación de las instrucciones.

6. Validar las respuestas antes de entregarlas

La generación de una respuesta no debería considerarse una autorización automática para compartir toda la información que aparece en el contexto recuperado.

Es conveniente incorporar controles posteriores que revisen si la respuesta contiene datos personales, credenciales, información financiera u otros elementos que deban permanecer protegidos. Estos mecanismos pueden utilizar reglas de detección, clasificadores de información sensible y validaciones adicionales antes de mostrar el resultado al usuario.

Por ejemplo, si un asistente responde una pregunta sobre el presupuesto de un proyecto y en su respuesta incluye accidentalmente datos bancarios o información salarial, un control de salida puede identificar ese contenido y bloquear la entrega o solicitar una revisión.

Sin embargo, este tipo de validación debe funcionar como una capa adicional. No reemplaza los controles de acceso durante la recuperación, porque una vez que la información confidencial llega al modelo, ya se ha ampliado innecesariamente su exposición.

 

Un caso práctico: cómo evitar que un asistente RAG revele información financiera

Imaginemos una compañía que decide implementar un asistente de IA para consultar sus documentos internos. La plataforma está conectada a un repositorio con contratos, reportes financieros, políticas de recursos humanos y documentación comercial.

Durante las pruebas iniciales, un empleado del área de ventas pregunta: «¿Cuánto dinero tiene presupuestado la empresa para el próximo trimestre?». Aunque el usuario no tiene autorización para consultar los reportes financieros, el sistema recupera un documento presupuestal porque la búsqueda semántica identifica que contiene información relacionada con la pregunta.

El modelo recibe el fragmento y genera una respuesta con los valores encontrados. Desde el punto de vista de la generación de lenguaje, el sistema hizo su trabajo. Desde el punto de vista de la seguridad, la arquitectura falló porque permitió que un usuario accediera a información fuera de sus permisos.

Una implementación correctamente diseñada debería resolver esta situación desde el principio. Cuando el empleado inicia sesión, el sistema identifica su rol y sus permisos. La consulta se ejecuta aplicando esos criterios sobre los documentos indexados, por lo que los reportes financieros quedan excluidos de los resultados disponibles para ese usuario.

Si la búsqueda no encuentra información autorizada que permita responder, el asistente debe indicarlo sin intentar completar la respuesta con documentos restringidos. Además, la plataforma debería registrar la consulta, los documentos recuperados y la decisión de acceso, de manera que el equipo de seguridad pueda revisar el comportamiento del sistema.

Este ejemplo demuestra por qué la seguridad de RAG depende tanto de la arquitectura de recuperación como del modelo de lenguaje utilizado. Un modelo más avanzado no corrige automáticamente una implementación que entrega información a usuarios sin autorización.

 

Cómo probar la seguridad de una solución RAG antes de ponerla en producción

Las pruebas funcionales tradicionales suelen concentrarse en comprobar si el asistente responde correctamente. Sin embargo, una solución empresarial también debe someterse a pruebas específicas para identificar posibles exposiciones de información.

Una primera prueba consiste en utilizar cuentas con diferentes perfiles y verificar que cada una pueda recuperar exclusivamente los documentos autorizados. Es importante realizar consultas directas e indirectas, porque un usuario puede intentar obtener información restringida mediante preguntas que no mencionan explícitamente el documento o el dato que busca.

También conviene realizar pruebas de inyección indirecta de prompts mediante documentos controlados. El objetivo es comprobar que el asistente no obedezca instrucciones maliciosas incorporadas en archivos PDF, páginas web o documentos externos que formen parte de la base de conocimiento.

Otra práctica recomendable es revisar los registros de recuperación. No basta con conocer la respuesta final: el equipo técnico debe poder identificar qué fragmentos fueron consultados, qué filtros se aplicaron y por qué determinados documentos fueron incluidos o excluidos.

Para estructurar estas evaluaciones, las organizaciones pueden tomar como referencia el OWASP Top 10 for LLM Applications, una iniciativa de OWASP que identifica los principales riesgos de seguridad asociados con aplicaciones basadas en modelos de lenguaje. Entre sus categorías se encuentran la inyección de prompts, la divulgación de información sensible y los problemas relacionados con el manejo de datos y resultados.

Las pruebas deben repetirse después de cambios importantes en los documentos, los permisos, los modelos o los componentes de recuperación. Una arquitectura que era segura durante su lanzamiento puede presentar nuevas vulnerabilidades cuando se incorporan fuentes adicionales o se amplían las capacidades del asistente.

 

RAG, cumplimiento y gobierno de datos: una responsabilidad empresarial

La adopción de RAG también obliga a las organizaciones a revisar sus políticas de gobierno de datos. Antes de conectar un repositorio a una solución de IA, es necesario establecer quién es responsable de la información, qué finalidad tiene su utilización y bajo qué condiciones puede ser consultada.

En Colombia, la Ley 1581 de 2012 es una referencia fundamental cuando la arquitectura procesa datos personales. Las empresas deben considerar los principios de finalidad, circulación restringida, seguridad y confidencialidad, además de las obligaciones que correspondan según su papel como responsables o encargados del tratamiento.

También deben revisar las condiciones de los proveedores de infraestructura y modelos de IA. Es importante conocer dónde se procesan los datos, cuánto tiempo se conservan, qué políticas aplican a las entradas y salidas, quién puede acceder a ellas y si existe alguna utilización de la información para entrenar modelos.

En este punto, las arquitecturas RAG desplegadas en infraestructura propia o en entornos cloud controlados pueden ofrecer mayor capacidad de administración sobre los datos. Sin embargo, el lugar donde se ejecuta el modelo no garantiza por sí mismo la seguridad. Los permisos, la configuración de los servicios, el cifrado, la trazabilidad y las políticas de acceso siguen siendo determinantes.

Por eso, el gobierno de datos debe acompañar el desarrollo técnico desde el inicio. Las áreas de tecnología, seguridad de la información, legal y negocio necesitan participar en la definición de las reglas que determinan qué información puede utilizar la IA y bajo qué condiciones.

 

La inteligencia artificial empresarial necesita acceso controlado a la información

Conectar una IA a los documentos de una organización puede mejorar considerablemente la productividad, facilitar la consulta de conocimiento interno y reducir el tiempo que los equipos dedican a buscar información. RAG hace posible construir asistentes especializados que respondan utilizando datos propios, sin depender exclusivamente del conocimiento general de un modelo.

Pero esa capacidad también amplía las responsabilidades de seguridad. Cada documento incorporado, cada usuario habilitado y cada integración representan una decisión sobre quién puede acceder a la información corporativa. Si esas decisiones no se traducen en controles técnicos, el asistente puede convertirse en un nuevo canal de exposición de datos.

Una implementación segura necesita aplicar permisos antes de recuperar documentos, clasificar las fuentes, proteger las bases vectoriales, controlar el contexto que recibe el modelo y supervisar las respuestas generadas. También debe mantener actualizados los índices y registrar las consultas para facilitar la auditoría y la detección de incidentes.

La pregunta no es solamente qué tan bien responde una IA conectada a los datos de tu empresa, sino si está preparada para distinguir qué información puede entregar y a quién. Esa diferencia es fundamental para convertir una prueba de inteligencia artificial en una solución empresarial confiable.