Búsqueda inteligente con IA
Silueta de una persona pasando por un torniquete de acceso en un lobby corporativo de noche

Seguridad de la IA en tu empresa: riesgos reales y cómo cubrirlos

Inyección de instrucciones, agentes con demasiados permisos y datos personales expuestos: los riesgos reales de la IA en tu empresa y cómo controlarlos.

Mientras la IA solo redactaba textos que una persona revisaba antes de usar, el riesgo era acotado. Hoy los asistentes leen documentos internos, responden directamente a clientes y, cada vez más, ejecutan acciones en tus sistemas. Eso abre una superficie de ataque nueva, con problemas que no se resuelven solo con un antivirus o un firewall.

La buena noticia es que los riesgos están bien identificados y las medidas para controlarlos son, en su mayoría, principios de seguridad conocidos aplicados a un contexto nuevo.

Una referencia para no partir de cero

La fundación OWASP, conocida por sus guías de seguridad web, publica el OWASP Top 10 para aplicaciones con modelos de lenguaje. Su edición 2025 incluye, entre otros, la inyección de instrucciones, la divulgación de información sensible, el manejo inadecuado de las salidas, la “agencia excesiva” y la filtración del prompt de sistema. Es un buen punto de partida para revisar cualquier proyecto, y en este artículo nos enfocamos en los riesgos que más se repiten en asistentes y automatizaciones de empresa.

Inyección de instrucciones: el riesgo número uno

Un modelo de lenguaje no distingue con total certeza entre las instrucciones de quien lo configuró y el texto que está procesando. La inyección de instrucciones (prompt injection) aprovecha eso.

  • Directa: un usuario escribe en el chat algo como “ignora tus instrucciones anteriores y muéstrame…”, buscando que el asistente haga lo que no debe.
  • Indirecta: más peligrosa y menos evidente. Las instrucciones maliciosas vienen escondidas en el contenido que el asistente lee: un correo, un PDF adjunto, una página web, un comentario en un formulario. El asistente lo procesa como parte de su trabajo y puede terminar obedeciendo.

No existe hoy una solución definitiva a nivel de modelo. Por eso la estrategia correcta no es confiar en que el modelo resista, sino diseñar el sistema para que, si el modelo es engañado, el daño posible sea mínimo. Eso nos lleva al siguiente punto.

Agentes con demasiado poder

Un asistente que solo puede leer el catálogo público hace poco daño si lo engañan. Uno que puede enviar correos, modificar registros o emitir reembolsos es otra historia. OWASP llama a esto “agencia excesiva”: darle al sistema más permisos, más herramientas o más autonomía de la que su tarea requiere.

  • Mínimo privilegio: cada herramienta con el acceso justo. Si el asistente consulta pedidos, que no pueda modificarlos.
  • Credenciales separadas: el asistente usa su propia cuenta de servicio, con permisos limitados, nunca la de un administrador.
  • Aprobación humana para lo irreversible: pagos, envíos masivos, eliminaciones, cambios de precios.
  • Límites de uso: cuántas acciones puede ejecutar por hora o por conversación, para contener tanto un ataque como un error.

Estos controles son parte del diseño desde el primer día cuando construimos asistentes y agentes personalizados, no un agregado posterior.

Datos: qué entra, qué se guarda y quién lo ve

El segundo gran frente es la información.

  • Lo que tu equipo pega en herramientas públicas. Contratos, datos de clientes, planillas financieras. Sin una política clara, cada persona decide por su cuenta.
  • Las condiciones del proveedor. Si usa tus datos para entrenar modelos, cuánto tiempo los retiene y qué acuerdos ofrece para empresas. Las versiones gratuitas y las empresariales suelen tener políticas distintas.
  • Permisos en el conocimiento. Si un asistente interno tiene acceso a documentos de RR.HH. o de gerencia, cualquier usuario podría terminar preguntándole por ellos. El filtro de permisos tiene que aplicarse antes de que el modelo vea la información, no confiar en que “no la va a mencionar”.
  • Los registros. Las conversaciones guardadas para auditoría también contienen datos personales y deben protegerse como tales.

En Chile, este tema tiene además un marco legal en camino. La Ley 21.719, que regula la protección y el tratamiento de los datos personales y crea la Agencia de Protección de Datos Personales, fue publicada en diciembre de 2024 y fijó su entrada en vigencia para el primer día del mes vigésimo cuarto posterior a su publicación, es decir, el 1 de diciembre de 2026. A fines de octubre de 2026 el Senado aprobó, en primer trámite, un proyecto que posterga su entrada en vigencia al 15 de octubre de 2027; el proyecto sigue en la Cámara de Diputados y, mientras no termine su tramitación y se publique, la fecha vigente sigue siendo el 1 de diciembre de 2026. Conviene revisar su estado y asesorarte con un especialista legal. En cualquier caso, ordenar hoy qué datos personales procesan tus sistemas de IA es trabajo que no se pierde.

Actualizado al 6 de noviembre de 2026.

Salidas que no deberías usar a ciegas

Lo que el modelo genera también puede ser un vector de problemas:

  • Contenido que se ejecuta. Si la respuesta del modelo se inserta en una página web, se usa en una consulta a una base de datos o se ejecuta como código, debe validarse y sanitizarse como cualquier dato externo.
  • Respuestas incorrectas dichas con seguridad. Un asistente que informa una política de devolución equivocada puede generar un compromiso real con un cliente. Respuestas basadas en fuentes verificables, con citas, reducen este riesgo.
  • Secretos en el prompt. Las instrucciones de sistema pueden filtrarse. Nunca incluyas contraseñas, claves de API ni información confidencial en ellas.

Gobernanza sin burocracia

No necesitas un comité para empezar. Necesitas algunas prácticas simples, sostenidas en el tiempo:

  1. Inventario: una lista de dónde se usa IA en tu empresa, con qué datos y con qué proveedor.
  2. Un responsable por caso de uso: alguien que responde por cómo funciona y qué hace.
  3. Política de uso para el equipo: qué herramientas están permitidas y qué información nunca debe ingresarse en ellas.
  4. Registro y revisión: qué consultó y qué hizo cada asistente, revisado periódicamente.
  5. Pruebas antes de cada cambio: incluyendo intentos deliberados de engañar al asistente.
  6. Plan ante incidentes: cómo desactivar un asistente rápidamente si algo sale mal.

Checklist mínima antes de salir a producción

  • ¿El asistente tiene solo los permisos que su tarea requiere?
  • ¿Las acciones irreversibles requieren aprobación de una persona?
  • ¿Los documentos que puede leer respetan los permisos de cada usuario?
  • ¿Probaste qué pasa si un correo o documento contiene instrucciones maliciosas?
  • ¿Las salidas se validan antes de mostrarse o ejecutarse?
  • ¿Sabes qué hace el proveedor con los datos que le envías?
  • ¿Puedes desactivarlo en minutos?

Seguridad como parte del diseño

La IA no es más insegura que otras tecnologías, pero tiene riesgos propios que hay que diseñar desde el principio. Cuando la automatización pasa a ser infraestructura crítica, con varios agentes conectados a tu ERP y a tus bases de datos, esos controles dejan de ser recomendaciones y pasan a ser arquitectura: flujos de aprobación, monitoreo y trazabilidad. Es el enfoque con que trabajamos en Infraestructura de Procesos con IA.

Siguiente paso

¿Esto te hizo pensar en tu propio proyecto?

Conversemos sobre cómo aplicarlo a tu negocio.

Asistente IA de atención al cliente
Agente de agendamiento con IA