Shadow AI: qué pasa cuando los trabajadores usan inteligencia artificial con datos de clientes

Una persona del área comercial necesita preparar un informe y decide utilizar una herramienta de inteligencia artificial. Exporta una planilla con información de clientes, la adjunta y solicita un análisis de oportunidades. En pocos minutos obtiene un resumen, identifica tendencias y prepara una presentación que antes le habría tomado varias horas. Desde el punto de vista de productividad, el resultado parece excelente. Sin embargo, podría existir una pregunta que nadie hizo antes de comenzar: ¿estaba autorizada esa herramienta para recibir la información?

La situación puede repetirse en muchas áreas de una empresa. Un trabajador de soporte copia el historial de un cliente para redactar una respuesta, alguien de recursos humanos solicita ayuda para comparar antecedentes de postulantes o un desarrollador comparte parte del código de una aplicación para resolver un problema técnico. Ninguna de estas personas necesariamente está actuando con mala intención. Al contrario, probablemente está intentando trabajar mejor.

Pero cuando las herramientas de inteligencia artificial se incorporan más rápido que las políticas y los controles de una organización, aparece un fenómeno conocido como Shadow AI. El término describe el uso de herramientas o funcionalidades de IA fuera de los procesos de aprobación y supervisión establecidos por la empresa.

No significa que toda herramienta utilizada sin autorización provoque automáticamente una filtración. El riesgo consiste en que información comercial, datos personales o conocimientos internos comiencen a circular por servicios cuyas condiciones, accesos y mecanismos de protección la empresa desconoce.

La preocupación no es exclusivamente teórica. En septiembre de 2026, el Centro Nacional de Ciberseguridad del Reino Unido (NCSC) publicó una advertencia específica sobre los riesgos de Shadow AI. El organismo señaló que las políticas empresariales no siempre han avanzado al mismo ritmo que la adopción de estas tecnologías y que el uso de servicios no aprobados puede reducir la visibilidad y el control sobre la información corporativa.

En Chile, la Agencia Nacional de Ciberseguridad (ANCI) también recomienda considerar el riesgo de pérdida de confidencialidad de los datos introducidos en sistemas de IA y advierte sobre el uso laboral de estas herramientas sin autorización institucional.

La discusión, por tanto, no debería concentrarse en prohibir la inteligencia artificial. El desafío consiste en aprovecharla sin debilitar uno de los activos más importantes de cualquier negocio: la información que necesita para operar y mantener la confianza de sus clientes.

La inteligencia artificial está entrando a las empresas por caminos que nadie planificó

La transformación digital tradicional suele seguir un proceso relativamente identificable. Una empresa detecta una necesidad, evalúa alternativas, solicita una propuesta, revisa integraciones y define cómo incorporará una nueva plataforma. Dependiendo del tamaño del proyecto, participan distintas áreas y se consideran aspectos económicos, operacionales y de seguridad.

La adopción de inteligencia artificial generativa puede ocurrir de una forma completamente diferente. Una persona descubre una herramienta, abre una cuenta y comienza a utilizarla para resolver tareas de su trabajo. Si obtiene buenos resultados, probablemente la compartirá con sus compañeros. En poco tiempo, el equipo puede haber incorporado una nueva tecnología a su rutina sin que exista una decisión formal de la organización.

Lo particular es que estas herramientas no siempre parecen sistemas empresariales. Muchas funcionan como una simple conversación y no producen la sensación de estar conectando un nuevo proveedor a los procesos de la compañía.

Sin embargo, desde el punto de vista de los datos, eso es precisamente lo que puede estar ocurriendo.

Una conversación puede contener información de una cotización, antecedentes de un trabajador, cifras comerciales, nombres de clientes o fragmentos de documentación técnica. En otros casos se adjuntan directamente archivos completos, planillas o documentos que incluyen información mucho más extensa que la necesaria para resolver la consulta.

Esta facilidad de uso constituye una de las principales ventajas de la inteligencia artificial. También explica por qué el problema resulta difícil de administrar mediante procedimientos tradicionales.

En nuestro artículo sobre cómo proteger los datos de una empresa ante ataques potenciados por inteligencia artificial ya analizamos cómo la IA está modificando el escenario de amenazas. Pero Shadow AI introduce una diferencia importante: no necesitamos que exista un atacante para perder visibilidad sobre nuestra información. La propia operación cotidiana puede generar nuevos flujos de datos que nadie contempló.

¿Qué ocurre realmente con la información que entregamos a una IA?

Una de las confusiones más habituales es pensar que todas las herramientas de inteligencia artificial funcionan de la misma manera. No es así.

Existen servicios gratuitos, suscripciones individuales, plataformas empresariales, modelos instalados en infraestructura privada y soluciones integradas mediante API. Cada alternativa puede tener condiciones diferentes sobre conservación, procesamiento, entrenamiento de modelos, controles administrativos y acceso por parte de terceros.

Por eso no sería correcto afirmar que cualquier documento introducido en una herramienta de IA terminará necesariamente utilizado para entrenar un modelo o quedará disponible para otros usuarios. Esas condiciones dependen del proveedor, del producto contratado, de su configuración y de los acuerdos aplicables.

Lo que sí debería preocupar a una empresa es utilizar una tecnología sin conocer esas condiciones.

Si un trabajador entrega información comercial a una aplicación externa, la organización necesita saber si los datos se almacenan, durante cuánto tiempo permanecen disponibles, quién puede acceder a ellos y qué mecanismos existen para solicitar su eliminación. También importa determinar si existen proveedores secundarios involucrados, qué garantías contractuales se ofrecen y dónde puede procesarse la información.

La situación se vuelve más delicada cuando lo compartido contiene datos personales. Un nombre acompañado de un teléfono, RUT, dirección o historial comercial puede formar parte de un tratamiento sujeto a obligaciones legales, independientemente de que la persona que realizó la consulta solamente quisiera preparar un resumen.

En Datactil hemos trabajado extensamente esta dificultad desde la perspectiva de la operación. En dónde viven realmente los datos personales en una empresa explicamos cómo la información se distribuye entre CRM, planillas, aplicaciones, automatizaciones y proveedores. Las herramientas de inteligencia artificial pueden convertirse en un destino adicional dentro de ese recorrido, muchas veces sin quedar registradas en los mapas de datos existentes.

El problema no es que la información haya salido necesariamente de forma ilícita. Es que la empresa podría no saber que salió, bajo qué condiciones fue procesada ni qué controles se aplicaron.

La productividad no debería conseguirse a costa de la integridad y seguridad de los datos

Desde nuestra experiencia en Datactil, un proyecto de digitalización necesita comenzar por una base bastante concreta: conocer, proteger y mantener íntegra la información con la que trabaja el negocio.

Los datos no son solamente registros almacenados en una aplicación. Representan clientes, operaciones, transacciones, documentos, compromisos comerciales y decisiones que pueden afectar directamente a la empresa. Si esa información pierde integridad, es utilizada fuera de contexto o queda disponible para personas o sistemas no autorizados, las consecuencias pueden extenderse mucho más allá de un incidente informático.

Esta preocupación existía antes de la inteligencia artificial. De hecho, es parte del motivo por el que las organizaciones necesitan diseñar cuidadosamente sus integraciones entre sistemas empresariales. Cada nueva conexión permite automatizar un proceso y reducir trabajo manual, pero también modifica la forma en que circula la información.

La IA no elimina esta responsabilidad. Agrega nuevas posibilidades y exige aplicar el mismo criterio con mayor atención.

Una empresa que necesita analizar ventas puede beneficiarse enormemente de la inteligencia artificial. Pero quizás el modelo solamente necesita conocer cantidades, categorías, períodos y montos, no los nombres y RUT de todas las personas que realizaron esas compras.

Si una herramienta ayuda a clasificar solicitudes de soporte, puede ser posible trabajar con descripciones depuradas sin entregar información identificable innecesaria. Del mismo modo, ciertas tareas de desarrollo pueden resolverse utilizando ejemplos representativos en lugar de compartir código que contenga secretos, credenciales o configuraciones sensibles.

La mejor arquitectura no es necesariamente la que entrega más información a la inteligencia artificial. Es la que consigue realizar el trabajo con los datos estrictamente necesarios.

Esto también requiere cuidar la calidad de la información entregada y de los resultados obtenidos. Una respuesta generada por IA puede parecer convincente y, aun así, contener cifras incorrectas, interpretaciones equivocadas o datos que no corresponden a la fuente original. Cuando esas respuestas alimentan decisiones comerciales o actualizaciones de sistemas, la revisión humana y la trazabilidad siguen siendo necesarias para proteger la integridad de la operación.

Los riesgos aumentan cuando la IA deja de responder y comienza a actuar

Existe una diferencia importante entre copiar información en una conversación y conectar una herramienta de inteligencia artificial directamente con los sistemas de una empresa.

En el primer caso, la exposición suele depender de los antecedentes que una persona decide entregar. En el segundo, una aplicación o agente puede recibir permisos para consultar documentos, revisar correos, acceder al CRM, buscar registros o ejecutar determinadas acciones.

La capacidad de trabajar con información actualizada y automatizar tareas puede ser muy valiosa. Pero también introduce nuevas preguntas sobre identidad, permisos y responsabilidad.

¿Debe un agente tener acceso a todos los clientes o solamente a los registros relacionados con su función? ¿Puede modificar información o únicamente consultarla? ¿Quién autoriza una operación importante? ¿Dónde queda registrada? ¿Cómo se suspenden sus permisos si cambia el proceso?

Estas decisiones deberían formar parte del diseño del sistema y no quedar entregadas exclusivamente a las posibilidades técnicas de la herramienta utilizada.

El NCSC británico advierte que los agentes de IA pueden heredar acceso a los datos y servicios para los cuales han recibido autorización. Si esos permisos son excesivos o aparece una vulnerabilidad, el alcance potencial del problema también aumenta.

Este escenario tiene una relación directa con el robo de credenciales y el acceso indebido a información empresarial. Una herramienta automatizada tampoco debería convertirse en una identidad con acceso ilimitado simplemente porque facilita la operación.

El principio de mínimo privilegio continúa siendo válido: cada persona, aplicación o agente debería tener solamente los permisos necesarios para cumplir su función.

Prohibir todas las herramientas puede terminar ocultando el problema

Frente a Shadow AI, una respuesta posible consiste en prohibir cualquier herramienta de inteligencia artificial que no forme parte de los sistemas corporativos.

Definir restricciones es necesario cuando existe información sensible o servicios que no cumplen las condiciones de seguridad requeridas. Pero una prohibición general, sin alternativas ni explicación, también puede producir un resultado indeseado: que los trabajadores continúen utilizando estas tecnologías sin informarlo.

El problema de fondo es que las personas ya conocen sus beneficios. Quien descubre que puede preparar un informe en menos tiempo o resolver una tarea repetitiva mediante IA probablemente intentará seguir aprovechando esa posibilidad.

Por eso el NCSC recomienda comprender primero qué necesidades están intentando resolver los trabajadores. La organización puede utilizar esa información para establecer soluciones autorizadas que entreguen ventajas reales sin perder control sobre los datos.

Esto requiere conversar con las áreas de negocio, no solamente con informática.

Ventas puede necesitar analizar oportunidades. Soporte puede necesitar clasificar consultas. Recursos humanos puede utilizar herramientas para organizar documentos. Administración puede querer revisar contratos y operaciones. Desarrollo puede beneficiarse de asistentes para programación y documentación.

Cada uso tiene características distintas y no todos requieren el mismo nivel de protección.

La decisión correcta puede consistir en permitir una herramienta bajo determinadas

condiciones, ofrecer una alternativa empresarial con mejores controles o construir una integración específica para un proceso crítico.

También es importante establecer una cultura donde las personas puedan preguntar antes de compartir información. Si admitir el uso de una herramienta desconocida genera automáticamente una sanción, es menos probable que la organización descubra a tiempo qué aplicaciones están utilizando realmente sus equipos.

Una empresa necesita saber qué IA utiliza y qué información puede entregarle

El primer paso para recuperar visibilidad no tiene por qué ser una plataforma costosa de monitoreo. Puede comenzar con una revisión de herramientas y procesos: qué aplicaciones se están utilizando, para qué tareas, qué áreas participan y qué categorías de información se procesan.

Después corresponde determinar cuáles pueden mantenerse, cuáles requieren cambios de configuración y cuáles no deberían utilizarse para determinados tratamientos.

Una política razonable debe distinguir información pública de antecedentes internos, datos personales, información confidencial y datos especialmente protegidos. También debería establecer cuándo se necesita autorización, qué cuentas corporativas deben utilizarse y qué ocurre con archivos, conversaciones o resultados generados.

Sin embargo, clasificar la información tampoco resuelve todo el problema si la organización desconoce dónde están almacenados sus datos.

Por eso resulta útil conectar este trabajo con un inventario de datos personales y, cuando corresponda, con el Registro de Actividades de Tratamiento. Esos instrumentos permiten relacionar fuentes, finalidades, sistemas, responsables y proveedores, incorporando progresivamente los nuevos tratamientos que surgen con inteligencia artificial.

La evaluación técnica de un proveedor también debería contemplar sus condiciones de procesamiento, retención y eliminación, así como la posibilidad de administrar usuarios, restringir integraciones y disponer de registros adecuados.

En determinados procesos puede ser necesario incorporar una capa previa que filtre, minimice o sustituya información identificable antes de enviarla a un modelo. La tokenización de datos personales es una de las estrategias que permiten reducir la exposición de identificadores, siempre que se diseñe correctamente y exista control sobre los mecanismos que relacionan los tokens con la información original.

El objetivo no debería ser conseguir que ninguna persona vuelva a cometer un error. Una mejor meta consiste en construir procesos donde compartir un dato innecesario resulte menos probable y donde las consecuencias de una equivocación estén limitadas por diseño.

La Ley 21.719 también alcanza a la forma en que incorporamos inteligencia artificial

La nueva legislación chilena de protección de datos personales agrega una razón importante para revisar estas prácticas, aunque la necesidad de hacerlo no debería depender únicamente de una exigencia regulatoria.

La Ley 21.719 refuerza principios relacionados con la finalidad del tratamiento, proporcionalidad, seguridad, responsabilidad y protección desde el diseño y por defecto. En la práctica, esto significa que una organización necesita conocer qué información trata, por qué la utiliza y bajo qué condiciones intervienen otras plataformas o proveedores.

Utilizar inteligencia artificial no constituye automáticamente una infracción. Pero tampoco entrega una autorización general para compartir cualquier dato personal con cualquier servicio.

Una empresa que procesa información de clientes mediante IA necesita evaluar el fundamento correspondiente, la finalidad, la cantidad de datos utilizados, las condiciones del proveedor y las medidas de seguridad aplicables. Si existe procesamiento internacional o participación de terceros, esos aspectos también pueden requerir una revisión específica.

Rodrigo Peña abordó parte de este problema desde el origen de la información en su artículo sobre cómo adaptar formularios, leads y bases de datos a la Ley 21.719. Allí explica que capturar un dato es solamente el comienzo de un proceso que puede involucrar CRM, automatizaciones y plataformas externas. Ahora debemos considerar también qué ocurre cuando una herramienta de IA participa en alguna de esas etapas.

El desafío será conectar la decisión tecnológica con la responsabilidad sobre los datos. No basta con que una herramienta entregue buenos resultados. También debería ser posible explicar qué información recibió, con qué propósito, quién autorizó su utilización y qué condiciones de tratamiento se aplicaron.

En cómo demostrar cumplimiento de la Ley 21.719 sin quedarse solo en documentos desarrollamos precisamente esa relación entre políticas, procesos y evidencia. La incorporación de inteligencia artificial no debería transformarse en una excepción a ese principio.

La inteligencia artificial también puede ayudar a proteger mejor los datos

Hasta aquí hemos hablado de riesgos, pero sería un error concluir que la IA solo introduce nuevas amenazas.

Bien implementada, también puede ayudar a las empresas a trabajar con mayor control sobre la información. Existen aplicaciones para identificar posibles datos sensibles en documentos, detectar anomalías, clasificar información, asistir en la revisión de procesos y automatizar tareas que tradicionalmente dependían de búsquedas manuales en distintos sistemas.

La utilidad de estas capacidades dependerá de la calidad de su implementación, de los permisos entregados y de la supervisión disponible. La inteligencia artificial no reemplaza una arquitectura bien diseñada ni garantiza por sí sola el cumplimiento normativo.

En Datactil estamos trabajando en herramientas y soluciones tecnológicas que responden a estas nuevas necesidades. Nuestro enfoque considera el control sobre la información, la integridad de los datos, su circulación entre sistemas y la capacidad de incorporar inteligencia artificial sin perder de vista las condiciones de seguridad y privacidad que requiere cada organización.

No creemos que todas las empresas necesiten dejar de utilizar sus plataformas actuales para adoptar IA. En muchos casos, el trabajo consiste en revisar lo que ya existe, identificar qué datos son realmente necesarios y desarrollar integraciones o mecanismos de protección adecuados para ese entorno.

Esa es también una oportunidad para mejorar la digitalización empresarial en términos más amplios. Un proyecto que conoce sus fuentes de datos, administra correctamente los permisos y mantiene registros confiables está mejor preparado tanto para incorporar inteligencia artificial como para responder a nuevas exigencias de privacidad.

El verdadero problema es utilizar datos que la empresa ya no sabe dónde están

Shadow AI demuestra algo que venimos observando desde hace tiempo: las organizaciones pueden incorporar nuevas herramientas mucho más rápido de lo que actualizan su capacidad para administrar la información.

La inteligencia artificial ha acelerado este fenómeno porque ofrece resultados inmediatos. Es comprensible que las personas quieran utilizarla, especialmente cuando permite resolver tareas que antes eran lentas o repetitivas.

Pero una transformación digital bien ejecutada no debería medirse exclusivamente por la cantidad de herramientas disponibles ni por las horas que aparentemente se ahorran. También debería considerar la integridad de la información, su disponibilidad, quién puede utilizarla y qué tan preparada está la empresa para responder cuando algo falla.

En su reciente artículo sobre qué hacer cuando se filtran datos personales de clientes, Rodrigo Peña explicó por qué una organización puede descubrir durante un incidente que ni siquiera conoce suficientemente bien el alcance de la información expuesta. Shadow AI aumenta esa dificultad cuando aparecen nuevas plataformas y tratamientos que no están incluidos en el mapa tecnológico de la empresa.

A nuestro juicio, ese es el punto que merece mayor atención.

La inteligencia artificial seguirá incorporándose a los procesos empresariales. Algunas herramientas serán elegidas formalmente por las organizaciones; otras aparecerán primero en el trabajo cotidiano de sus equipos. Lo importante es construir una base tecnológica que permita aprovechar esa evolución sin comprometer innecesariamente los datos que sostienen el negocio.

En Datactil consideramos que proteger la integridad y seguridad de la información no es una etapa posterior a la digitalización, sino una de sus condiciones fundamentales. Con esa base es posible integrar sistemas, automatizar procesos e incorporar nuevas capacidades de inteligencia artificial con mejores criterios de control y continuidad.

Si tu empresa está incorporando IA y necesita revisar cómo se conectan sus herramientas, qué información comparten y qué medidas tecnológicas conviene implementar, puedes evaluar un proyecto con Datactil.

Preguntas frecuentes

¿Qué significa Shadow AI en una empresa?

Shadow AI es el uso de herramientas o funcionalidades de inteligencia artificial fuera de los procesos de aprobación y supervisión establecidos por la organización. Puede incluir aplicaciones individuales, asistentes incorporados en otras plataformas o servicios externos que procesan información relacionada con el trabajo.

¿Es peligroso utilizar ChatGPT u otras herramientas de IA con datos de clientes?

Depende del tipo de información, de la herramienta, su configuración y las condiciones contractuales aplicables. El riesgo aumenta cuando se introducen datos personales o confidenciales en servicios que la empresa no ha evaluado o autorizado.

¿Todo lo que se escribe en una inteligencia artificial se utiliza para entrenarla?

No. Las condiciones varían según el proveedor, producto, configuración y contrato. Por eso una empresa debería revisar expresamente las políticas de tratamiento, conservación y uso de datos antes de autorizar una herramienta para trabajar con información corporativa.

¿La Ley 21.719 prohíbe utilizar inteligencia artificial con datos personales?

No establece una prohibición general de utilizar IA. Lo relevante es que el tratamiento de datos personales cuente con un fundamento adecuado, responda a finalidades legítimas y cumpla las obligaciones de protección, seguridad y demás exigencias aplicables.

¿Cómo puede una empresa reducir los riesgos de Shadow AI?

El primer paso es identificar qué herramientas están utilizando realmente sus equipos y qué información reciben. Desde ahí pueden definirse servicios autorizados, condiciones de uso, controles de acceso, reglas de minimización y mecanismos de supervisión adecuados al riesgo.