Cómo proteger los datos de una empresa ante ataques potenciados por inteligencia artificial

Durante años, la imagen más común de un ciberataque fue la de alguien intentando vulnerar una infraestructura desde afuera. Un servidor expuesto, una contraseña débil o una falla sin actualizar parecían ser las principales puertas de entrada. Esos riesgos siguen existiendo, pero explican cada vez menos el problema completo.

Una empresa puede tener su sitio funcionando normalmente, sus servidores disponibles y sus sistemas sin vulnerabilidades conocidas, y aun así sufrir una extracción importante de información. Basta que alguien consiga las credenciales de una cuenta real, engañe a un trabajador para autorizar un acceso o encuentre información empresarial en una herramienta externa que nunca debió recibirla. La inteligencia artificial está haciendo varios de esos escenarios más fáciles de preparar, personalizar y ejecutar.

Por eso, cuando hablamos de proteger datos empresariales, ya no resulta suficiente preguntar si la infraestructura está protegida. También necesitamos saber dónde están los datos, quién puede consultarlos, cuántas copias existen y qué ocurriría si alguien consiguiera utilizar correctamente una cuenta que no le pertenece.

La IA no inventó el phishing, pero está cambiando su calidad

Uno de los cambios más visibles se encuentra en la ingeniería social. Durante mucho tiempo, los correos maliciosos podían reconocerse por traducciones deficientes, errores de redacción o mensajes suficientemente genéricos como para despertar sospechas. Los modelos generativos redujeron considerablemente esa barrera.

Un atacante puede producir comunicaciones bien escritas, adaptar el tono al país, investigar una organización y preparar mensajes que mencionen proveedores, ejecutivos, cargos o situaciones comerciales reales. Incluso cuando la técnica utilizada sigue siendo phishing, producir un engaño personalizado requiere ahora mucho menos esfuerzo.

El problema merece atención porque la ingeniería social continúa siendo uno de los principales puntos de entrada observados en incidentes. En su Threat Landscape 2025, ENISA situó al phishing —incluyendo variantes como vishing y malspam— en aproximadamente el 60% de los vectores iniciales analizados.

La conclusión para una empresa no debería ser que toda comunicación es sospechosa, sino que las señales que antes ayudaban a reconocer un fraude se están debilitando. Un correo correctamente escrito ya no es una señal de legitimidad. Tampoco lo es que el mensaje incluya información verdadera sobre la empresa.

Ese cambio será particularmente relevante para pagos, modificaciones de cuentas bancarias, solicitudes urgentes de información y recuperación de credenciales. Más adelante profundizaremos este problema en un artículo específico sobre phishing con inteligencia artificial, porque merece un tratamiento propio dentro de este nuevo clúster.

El ataque puede utilizar una contraseña perfectamente válida

En Chile ya existen antecedentes que permiten ilustrar un problema todavía más incómodo. Durante investigaciones sobre filtraciones de información, la Agencia Nacional de Ciberseguridad informó que en algunos casos no encontró evidencia de ataques contra la infraestructura tecnológica. Lo que sí detectó fue acceso no autorizado utilizando credenciales válidas, probablemente comprometidas anteriormente mediante filtraciones o malware del tipo infostealer.

Para el sistema, esa situación puede parecer completamente normal. Alguien escribe un usuario correcto, introduce una contraseña correcta y entra por la misma puerta que utiliza diariamente el trabajador legítimo. La diferencia aparece después, cuando esa cuenta comienza a consultar, descargar o modificar información.

Este escenario obliga a cambiar la pregunta. La seguridad no debería depender solamente de impedir que un atacante consiga entrar; también debería limitar cuánto puede hacer una cuenta después de haber ingresado.

Una organización donde cualquier usuario puede descargar una base completa tiene una superficie de exposición muy distinta a otra donde cada persona accede únicamente a la información necesaria para realizar su trabajo. Lo mismo ocurre con proveedores externos, cuentas administrativas antiguas o trabajadores que cambiaron de funciones pero conservaron permisos históricos.

Por eso el control de acceso, la autenticación multifactor, la revisión periódica de usuarios y la trazabilidad dejan de ser controles aislados y pasan a formar parte de una misma estrategia: asumir que alguna credencial puede ser comprometida y reducir las consecuencias si eso ocurre.

El problema no está solamente afuera de la empresa

Existe otro riesgo menos espectacular y probablemente mucho más cotidiano. Una persona necesita resumir un documento, analizar una base de clientes o preparar una presentación y decide utilizar una herramienta de inteligencia artificial. Copia la información, obtiene una respuesta útil y continúa trabajando.

No hubo phishing, malware ni un atacante intentando entrar. Sin embargo, la información corporativa salió de los sistemas que la empresa controlaba y fue entregada a un servicio que quizás nunca fue evaluado.

Este fenómeno suele agruparse bajo el concepto de Shadow AI: herramientas de inteligencia artificial adoptadas por trabajadores sin que exista una política, evaluación o autorización institucional suficiente. El problema no es solamente que se utilice IA. El problema aparece cuando nadie sabe qué servicios se están utilizando, con qué condiciones y qué información está siendo enviada.

ANCI ha advertido justamente sobre la pérdida de confidencialidad de los datos que se ingresan a estas herramientas y recomienda no utilizar servicios de inteligencia artificial en el ámbito laboral sin autorización previa de la organización.

Para las empresas, prohibir cualquier herramienta probablemente tampoco sea una solución sostenible. La productividad que entregan estos sistemas hará que cada vez estén más integrados a correo electrónico, documentos, navegadores y aplicaciones de trabajo. Lo razonable será clasificar mejor la información y establecer reglas sobre qué herramientas pueden utilizarse y qué datos nunca deberían abandonan los entornos autorizados.

Esto conecta directamente con un trabajo previo de Datactil que cobra todavía más importancia: saber qué información existe realmente dentro de la organización. Nuestro artículo sobre explica por qué una empresa difícilmente puede proteger información cuya existencia o ubicación desconoce.

El siguiente riesgo llegará cuando la IA también pueda ejecutar acciones

Hasta ahora, buena parte del uso empresarial de inteligencia artificial consiste en hacer preguntas, redactar textos o analizar información. El escenario cambia cuando comenzamos a entregar permisos a agentes capaces de utilizar otras aplicaciones.

Un agente podría consultar correos, revisar documentos, buscar información en una base de datos, actualizar un CRM o iniciar automáticamente un proceso. Esa capacidad puede producir mejoras importantes de productividad, pero también significa que el sistema necesita acceso real a recursos empresariales.

Ahí aparece un problema de seguridad diferente.

NIST lleva tiempo estudiando el denominado agent hijacking, relacionado con ataques de indirect prompt injection. En términos simples, un agente puede encontrar instrucciones maliciosas dentro de información aparentemente normal —por ejemplo un correo, una página web o un documento— e interpretarlas como algo que debe ejecutar. Las investigaciones de NIST incluyen escenarios de exfiltración de información, envío automatizado de phishing y ejecución de acciones no solicitadas por el usuario.

Esto no significa que las empresas deban evitar los agentes. Significa que la misma disciplina utilizada durante años para administrar permisos de usuarios debe aplicarse también a los sistemas automatizados. Si un agente necesita leer determinados documentos para preparar una respuesta, no debería tener permiso para eliminar carpetas completas. Si necesita consultar información comercial, no necesariamente requiere acceso a toda la base de clientes.

A medida que incorporemos IA en procesos empresariales, el principio de mínimo privilegio probablemente será más importante, no menos.

El problema aumenta cuando el mismo dato vive en demasiados lugares

Buena parte de estos riesgos se vuelve más difícil de controlar porque los datos rara vez están concentrados en un solo sistema. Un cliente puede aparecer simultáneamente en un CRM, una plataforma de facturación, una planilla comercial, un sistema de mailing, una aplicación interna y varios respaldos. Si además existen integraciones entre ellos, la organización puede perder rápidamente visibilidad sobre cuál es la fuente original y qué sistemas conservan una copia.

Esto ya era un problema de gestión antes de la llegada de la inteligencia artificial. Ahora adquiere una dimensión adicional: cada nueva herramienta conectada al ecosistema puede convertirse también en otra ruta hacia la información.

El primer paso para recuperar control es construir un inventario de datos personales que permita identificar qué información existe, dónde está almacenada, qué áreas la utilizan y qué sistemas participan. Desde ese levantamiento es posible avanzar hacia un Registro de Actividades de Tratamiento o RAT, incorporando una mirada más completa sobre finalidades, proveedores, accesos, conservación y medidas asociadas a cada tratamiento.

Esta visibilidad resulta esencial porque una organización no puede evaluar correctamente el impacto de un incidente si no sabe primero qué información estaba disponible para el sistema comprometido.

Proteger datos también significa preguntarse si necesitamos guardarlos

La respuesta tradicional a un nuevo riesgo ha sido agregar otra capa de protección. Más controles, mejores contraseñas, otra solución de seguridad. Todo eso puede ser necesario, pero existe una medida bastante más sencilla que suele recibir menos atención: reducir la cantidad de información expuesta.

Cada dato innecesario que una empresa conserva es también un dato que puede perder.

Esto obliga a revisar una costumbre extendida en sistemas empresariales: guardar información indefinidamente por si algún día resulta útil. El problema es que ese criterio acumula bases antiguas, contactos duplicados y registros cuya finalidad original se perdió con el tiempo.

La Ley 21.719 refuerza esta discusión mediante principios como proporcionalidad, finalidad y protección desde el diseño y por defecto. Para una empresa, eso significa que la pregunta sobre seguridad debería comenzar incluso antes de almacenar información: ¿realmente necesitamos este dato para ejecutar el proceso?

En nuestro contenido sobre privacidad desde el diseño en sitios, aplicaciones y CRM desarrollamos precisamente esa idea. Diseñar un sistema mejor protegido no consiste solamente en construir una barrera alrededor de una gran base de información; también puede significar recopilar menos, limitar los accesos y reducir la multiplicación de copias.

Otra estrategia técnica que cobra relevancia es la tokenización de datos personales. No constituye una solución universal, pero permite ilustrar un principio importante: ciertos sistemas pueden necesitar operar con una referencia asociada a una persona sin requerir permanentemente acceso al dato identificable original. Reducir el número de aplicaciones que conocen directamente la información también puede reducir la superficie de exposición.

La Ley 21.719 obliga a conectar documentos con sistemas reales

La nueva regulación chilena agrega una dimensión concreta a esta conversación. Una organización no debería poder limitar su preparación a publicar una política de privacidad o actualizar contratos. Los principios y obligaciones de la ley terminan afectando la forma en que operan formularios, CRM, integraciones, aplicaciones y procesos internos.

Una empresa puede declarar, por ejemplo, que eliminará datos cuando ya no sean necesarios, pero descubrir después que el mismo registro existe en una plataforma de mailing, un CRM, una exportación histórica y diferentes respaldos. También puede establecer que el acceso estará restringido y mantener al mismo tiempo usuarios antiguos cuyos permisos nunca fueron revisados.

Por eso hemos insistido en que la preparación tecnológica debe avanzar junto con el trabajo documental. En cómo demostrar cumplimiento de la Ley 21.719 sin quedarse solo en documentos analizamos precisamente esa diferencia entre declarar una práctica y poder acreditarla mediante procesos, sistemas y evidencias.

Para empresas que todavía están ordenando el escenario completo, nuestro checklist de la Ley 21.719 para empresas permite identificar las primeras prioridades. También desarrollamos una guía más operacional sobre cómo preparar una empresa para la Ley 21.719, especialmente útil antes de comenzar modificaciones aisladas en distintas áreas.

La captura de información merece además una revisión propia. En cómo adaptar formularios, leads y bases de datos frente a la Ley 21.719 explicamos cómo una decisión aparentemente sencilla —qué pedir en un formulario y qué ocurre después con ese registro— puede terminar afectando CRM, marketing, automatizaciones y trazabilidad.

Una filtración tampoco empieza cuando una base aparece publicada

Existe otro error frecuente: considerar que hubo un problema únicamente cuando los datos terminan disponibles públicamente. Para una empresa, el incidente puede comenzar mucho antes. Una cuenta podría consultar información que no debía, un proveedor podría conservar acceso después de terminar su servicio o una integración podría enviar registros hacia un destino equivocado.

La pregunta no es solamente si los datos aparecieron en Internet. Es si se perdió control sobre quién podía acceder a ellos.

Por eso la trazabilidad se vuelve especialmente importante. Cuando ocurre un incidente, la organización necesita reconstruir qué usuario intervino, desde dónde, qué información estuvo disponible y qué acciones se realizaron. Sin registros suficientes, incluso determinar el alcance puede transformarse en una investigación compleja.

La nueva Ley 21.719 aumenta además la importancia de contar con medidas de seguridad acordes al riesgo y de poder demostrar que esas medidas existían y funcionaban. Para las empresas que están evaluando su preparación general, nuestro artículo permite detectar varias señales de desorden que suelen aparecer antes de que ocurra una filtración.

No todo ataque con IA necesita una defensa basada en IA

La velocidad con que están apareciendo herramientas de inteligencia artificial también puede llevar a una respuesta comercial equivocada: pensar que cada amenaza nueva necesita otra solución basada en IA.

Muchas de las medidas más importantes siguen siendo bastante conocidas. Autenticación multifactor, revisión periódica de permisos, segmentación, actualizaciones, respaldos, monitoreo, capacitación y trazabilidad continúan siendo controles fundamentales.

Lo que cambia es el contexto en que se aplican.

Un correo falso puede estar mejor escrito. Una llamada puede imitar una voz. Una contraseña real puede estar en manos equivocadas. Un agente automatizado puede tener acceso a información que antes solo consultaba una persona. Y una herramienta aparentemente inofensiva puede recibir documentos que contienen información confidencial.

Por eso la respuesta más robusta no consiste en buscar una tecnología que prometa impedir todos los ataques. Consiste en diseñar la operación asumiendo que alguna barrera puede fallar.

Si una cuenta es comprometida, debería tener acceso limitado. Si una aplicación externa deja de ser confiable, debería manejar la menor cantidad posible de información. Si un trabajador necesita usar IA, debería saber qué datos puede entregar. Si ocurre una anomalía, debería existir evidencia suficiente para entender qué pasó.

Esta lógica es menos espectacular que muchas promesas de ciberseguridad, pero también es bastante más útil.

El primer paso sigue siendo entender cómo circula la información

La inteligencia artificial está aumentando la capacidad de los atacantes y, al mismo tiempo, está creando nuevas formas legítimas de utilizar datos dentro de las empresas. Ambas tendencias ocurren en paralelo. Durante los próximos años veremos más automatización, más integraciones y más agentes capaces de actuar sobre sistemas empresariales.

Eso hará que proteger exclusivamente el perímetro sea cada vez menos suficiente.

Una organización necesita entender el recorrido completo de su información: dónde se captura, qué plataformas la almacenan, qué usuarios pueden consultarla, qué proveedores la reciben, qué automatizaciones intervienen y cuándo debería dejar de estar disponible. Esa visión sirve para responder a un incidente, pero también para preparar la operación frente a la nueva regulación chilena.

En Datactil trabajamos precisamente en esa intersección entre sistemas, datos y operación. Revisamos integraciones, accesos, automatizaciones, infraestructura y flujos de información para identificar dónde se concentran riesgos y qué cambios tecnológicos tienen sentido implementar.

No todas las empresas necesitan reconstruir sus sistemas. Muchas veces el trabajo comienza simplemente por entenderlos mejor.

Una pregunta sencilla puede servir como diagnóstico: si mañana alguien obtiene acceso a una de nuestras cuentas o aplicaciones, ¿sabemos realmente qué información podría consultar y hasta dónde podría llegar?

Cuando la respuesta no está clara, probablemente ese sea un buen lugar para comenzar. También puedes evaluar un proyecto con Datactil para revisar sistemas, datos, integraciones y prioridades con una mirada técnica aplicada a la operación real.

Preguntas frecuentes

¿La inteligencia artificial está creando nuevos ciberataques?

En muchos casos está haciendo más eficientes técnicas que ya existían, especialmente phishing, ingeniería social, reconocimiento y automatización. También están apareciendo riesgos propios de sistemas basados en IA, especialmente cuando agentes tienen acceso a correo, documentos, aplicaciones o bases de datos.

¿Una empresa pequeña también debería preocuparse por estos riesgos?

Sí. El tamaño no determina por sí solo el impacto. Una empresa pequeña puede administrar información de clientes, trabajadores o proveedores y depender de servicios cloud, correo y aplicaciones externas igual que una organización mucho mayor.

¿Utilizar inteligencia artificial con información empresarial es siempre peligroso?

No. El riesgo depende de la herramienta, su configuración, las condiciones del servicio y el tipo de información que se procesa. El problema aparece cuando trabajadores introducen datos personales, información confidencial o propiedad intelectual en herramientas que la organización no ha evaluado.

¿Qué tiene que ver este problema con la Ley 21.719?

La protección de datos personales no depende solamente de políticas o documentos. La ley incorpora obligaciones y principios relacionados con seguridad, proporcionalidad, confidencialidad, protección desde el diseño y capacidad de responder frente a derechos de las personas. Buena parte de ese cumplimiento termina dependiendo de cómo están construidos y administrados los sistemas.