La filtración de datos a través de indicaciones de IA ocurre cuando alguien envía información confidencial, personal, de propiedad exclusiva o sensible en materia de seguridad a un sistema de IA, y esa información se almacena, procesa, expone o reutiliza fuera de los controles previstos por la organización.

La indicación puede ser una pregunta escrita en un modelo de lenguaje extenso (LLM) público, un archivo cargado para su análisis, un mensaje enviado a una función de SaaS habilitada con IA, o contexto recopilado automáticamente por un asistente de codificación con IA. Es posible que el usuario no se dé cuenta de que la indicación contiene información sensible ni entienda qué ocurre después de enviarla.

Un empleado podría pedirle a una herramienta de IA que resuma una queja de un cliente e incluir todo el ticket, notas internas, nombres de hosts y registros de autenticación. Un desarrollador podría pegar un error de código que contiene una clave de API. Un analista podría cargar una exportación de seguridad a un servicio de visualización en línea. La pregunta de seguridad no es solo qué produce la IA. También importa adónde va la información ingresada, quién puede acceder a ella, cuánto tiempo se conserva y a qué sistemas puede llegar la herramienta de IA.

Los empleados dan más contexto del necesario

Las herramientas de IA suelen dar mejores respuestas cuando los usuarios incluyen más contexto. Esto motiva a la gente a pegar documentos completos, conversaciones, registros o conjuntos de datos en lugar de incluir solo los campos que la herramienta realmente necesita.

Algunos ejemplos comunes incluyen registros de clientes, contratos, tickets de soporte, pronósticos financieros, planes de productos, código fuente, registros de autenticación, detalles de incidentes y datos regulados como la información de identificación personal (PII). La inclusión puede ser accidental y no maliciosa, pero una herramienta no aprobada igual puede procesar la información fuera del control de la organización.

Se suben archivos y conjuntos de datos para análisis

Una hoja de cálculo, una exportación de valores separados por comas (CSV), un documento o una captura de pantalla pueden contener columnas ocultas, metadatos, nombres, identificadores o registros sensibles que el usuario no tenía intención de compartir. Los equipos de seguridad y de operaciones pueden quedar particularmente expuestos cuando suben exportaciones de gestión de eventos e información de seguridad (SIEM), Detección y respuesta para endpoints (EDR) o herramientas de identidad. Incluso los datos defensivos pueden revelar sistemas internos, usuarios, vulnerabilidades y detalles de incidentes.

Las herramientas de código de IA reciben secretos o código propietario

Un desarrollador que soluciona un error de producción puede enviar credenciales, tokens, claves de API, variables de entorno o código de terceros junto con una instrucción (prompt). Los ejemplos redactados o sintéticos son más seguros cuando no se necesitan los datos originales. Los asistentes de código, las extensiones, los agentes y los endpoints de modelos también deben revisarse y aprobarse según los datos a los que puedan acceder.

Las funciones de IA aparecen dentro de herramientas de confianza

La filtración de prompts no siempre implica un chatbot público. Las suites de oficina, las plataformas de gestión de relaciones con el cliente (CRM), los sistemas de tickets y las herramientas de colaboración pueden incorporar asistentes que buscan en los datos de la empresa. Si se habilita un asistente integrado antes de que los equipos de seguridad revisen los permisos, el registro de actividad, la retención y los controles a nivel de inquilino, puede crearse una nueva vía de procesamiento de datos que los empleados no reconocen.

Huntress ha identificado patrones que muestran cómo aparece este riesgo en entornos reales:

• Los equipos de soporte u operaciones copian tickets en LLM públicos para redactar actualizaciones para clientes o resúmenes de causa raíz, incluyendo registros, identificadores de clientes o nombres de hosts.
• Los desarrolladores conectan una API de LLM externa a un script interno que clasifica alertas o genera guías operativas sin revisión del proveedor ni controles de acceso.
• Los analistas suben exportaciones de SIEM, EDR o identidad a herramientas de análisis de IA en línea.
• Los equipos de marketing o de recursos humanos usan herramientas de escritura con IA que almacenan prompts y resultados con mensajes internos, nombres o estrategia de negocio.
• Los empleados pegan código fuente confidencial o material de autenticación en herramientas de código con IA que no están aprobadas para esa información.

Estos patrones suelen describirse como IA en la sombra: uso de IA relacionado con el trabajo que los equipos de seguridad y TI no pueden ver, gobernar ni investigar de forma confiable.

La exposición puede ocurrir mediante una extensión del navegador, la subida de un archivo, una API o una función habilitada silenciosamente dentro de una aplicación SaaS aprobada.

La filtración de prompts suele ocurrir cuando un usuario o un flujo de trabajo envía información sensible a un sistema de IA. La inyección de prompts es un ataque en el que alguien coloca instrucciones maliciosas dentro de contenido que un sistema de IA va a procesar.

Una página web, un documento o un correo electrónico malicioso podría indicarle a un asistente de IA que ignore sus instrucciones originales y reenvíe correos, revele el historial de conversaciones o envíe datos internos a un destino externo.

El riesgo aumenta cuando un agente de IA puede navegar, leer correo electrónico, acceder a documentos, ejecutar código o interactuar con aplicaciones empresariales. La filtración accidental de prompts requiere reglas de manejo de datos, herramientas aprobadas y educación de los usuarios. La inyección de prompts requiere validación de entradas, privilegio mínimo, monitoreo de comportamiento y aprobación humana para acciones de alto riesgo.

La filtración de prompts de IA puede afectar la confidencialidad, el cumplimiento, la seguridad de identidades, la respuesta a incidentes, la propiedad intelectual y la ingeniería social. Las credenciales o tokens expuestos pueden facilitar la toma de control de una cuenta. El contexto de negocio filtrado puede ayudar a los atacantes a redactar mensajes de phishing más convincentes. Los datos personales o regulados pueden ser procesados por un proveedor que no ha sido aprobado.

Subir texto a un servicio de IA puede parecer tráfico web cifrado normal. Por eso las organizaciones necesitan una combinación de políticas, educación de los usuarios, telemetría de endpoints e identidades, descubrimiento de SaaS y correlación de registros, en lugar de un solo control.

Crea reglas claras de IA

Define herramientas aprobadas, datos prohibidos y situaciones que requieren revisión. Especifica credenciales, registros de clientes, información regulada, registros de producción y código propietario en lugar de depender de un lenguaje vago como "datos sensibles".

Minimiza y redacta los datos

Dale a una herramienta de IA solo el contexto que necesita. Elimina nombres, identificadores, secretos, tokens, campos de registro innecesarios y datos no relacionados. Usa ejemplos redactados o sintéticos siempre que sea posible.

Controla el acceso y las integraciones

Revisa las extensiones del navegador, las concesiones de OAuth, las claves de API, las cuentas de servicio y los permisos de SaaS habilitados con IA. Usa el privilegio mínimo para que una herramienta o agente de IA no pueda acceder a datos ni realizar acciones que no necesita.

Monitorea y capacita

Busca almacenamiento masivo de datos, transferencias de archivos inusuales, nuevas conexiones a servicios de IA no aprobados, llamadas de API inesperadas y actividad que difiera del patrón normal de un usuario. Capacita a los empleados para que sepan que los prompts y las subidas pueden quedar retenidos o registrados, y dales un proceso simple para reportar envíos accidentales.

Nuestro enfoque práctico consiste en fortalecer los controles en torno a las personas, endpoints, identidades, aplicaciones y registros involucrados en el uso de IA.

• Managed EDR ayuda a proporcionar visibilidad de endpoints y a detectar preparación sospechosa de datos, nuevas extensiones de navegador, comportamiento con scripts o malware entregado a través de una plataforma de IA confiable.
• Managed ITDR ayuda a proteger las identidades y los entornos de correo electrónico de Microsoft 365 y Google Workspace, donde las cuentas comprometidas pueden acceder o mover información confidencial.
• Managed ISPM ayuda a identificar y abordar configuraciones de identidad de Microsoft 365 riesgosas, accesos y desviaciones de políticas.
• Managed SIEM centraliza los registros de endpoints, sistemas de identidad, firewalls, VPNs y otra infraestructura.

La correlación puede revelar accesos inusuales a datos confidenciales seguidos de conexiones a un servicio de cloud o IA no autorizado.

• Managed Security Awareness Training ayuda a los empleados a reconocer la fuga de prompts, la IA en la sombra, el phishing habilitado por IA y riesgos relacionados.

La Huntress Agentic Security Platform y su centro de operaciones de seguridad centrado en IA (SOC) liderado por humanos conectan estas señales en lugar de crear una pila aislada de "solo IA". La IA acelera la correlación y la investigación, mientras que los analistas humanos aportan el criterio necesario para entender el contexto y decidir cómo responder.

La IA facilita resumir un ticket, analizar un conjunto de datos, resolver problemas de código o redactar una respuesta para un cliente. También facilita mover información sensible a un sistema que los equipos de seguridad no aprobaron, configuraron ni monitorearon.

La solución no es prohibir las herramientas de IA útiles. Identifica lo que las personas y las aplicaciones ya están usando, define reglas claras de manejo de datos, minimiza lo que se incluye en los prompts, revisa los accesos e integraciones, y monitorea la actividad relacionada con endpoints, identidades y registros.

La IA puede ayudar a las personas a trabajar más rápido. Tu programa de seguridad debe asegurarse de que esa velocidad no implique perder el control de tus datos.

Huntress conecta señales de endpoints, identidades, registros y riesgo humano a través de una plataforma unificada respaldada por un SOC humano disponible 24/7.

Descubre cómo Huntress ayuda a las organizaciones a identificar actividad sospechosa y proteger lo que importa.