Cómo la IA generativa está redefiniendo el panorama de la seguridad

El año 2026 marca un punto de inflexión en la ciberseguridad. Hemos superado el ciclo de exageración de la IA generativa (GenAI) y entrado en una realidad en la que la IA puede ser un motor principal tanto para ataques más sofisticados como para defensas más efectivas. Para los dueños de negocios y los líderes de seguridad, la pregunta ya no es si la IA afectará su entorno, sino cómo gestionar un panorama de amenazas que ahora se mueve a velocidad de máquina.

La carrera armamentista de "IA contra IA" ya no es un experimento mental; es una realidad operativa diaria. Pero a medida que se asienta la explosión inicial de herramientas de GenAI, una cosa queda clara: la tecnología por sí sola no es una solución mágica. Las organizaciones más seguras no son las que persiguen las herramientas más "autónomas", sino las que adoptan un modelo asistido por IA y liderado por personas.


Puntos clave:

  • La GenAI se ha convertido en un motor principal tanto para las operaciones cibernéticas ofensivas como defensivas, lo que permite phishing más sofisticado, deepfakes, y malware polimórfico, al mismo tiempo que impulsa una detección, clasificación y respuesta más rápidas.

  • Un SOC "solo de IA" o totalmente autónomo es un riesgo, porque los modelos carecen de conciencia situacional, contexto de negocio y responsabilidad; son sólidos en correlación e inferencia, pero débiles en juicios binarios de alto riesgo.

  • Las organizaciones más resilientes adoptan un modelo de seguridad centrado en la IA y liderado por personas, usando la IA para escalar (correlación de señales, enriquecimiento, automatización) y a las personas para el juicio, la investigación y la toma de decisiones basada en el riesgo.

  • Una gobernanza eficaz de la GenAI requiere barreras de protección y supervisión explícitas, incluidas políticas claras de uso aceptable, visibilidad sobre el tráfico de IA, capacitación en concientización de seguridad enfocada en IA, auditorías de IA en la sombra y monitoreo 24/7 liderado por personas sobre las detecciones impulsadas por IA.

Temas
Compartir

Cómo la IA generativa está redefiniendo el panorama de la seguridad

El año 2026 marca un punto de inflexión en la ciberseguridad. Hemos superado el ciclo de exageración de la IA generativa (GenAI) y entrado en una realidad en la que la IA puede ser un motor principal tanto para ataques más sofisticados como para defensas más efectivas. Para los dueños de negocios y los líderes de seguridad, la pregunta ya no es si la IA afectará su entorno, sino cómo gestionar un panorama de amenazas que ahora se mueve a velocidad de máquina.

La carrera armamentista de "IA contra IA" ya no es un experimento mental; es una realidad operativa diaria. Pero a medida que se asienta la explosión inicial de herramientas de GenAI, una cosa queda clara: la tecnología por sí sola no es una solución mágica. Las organizaciones más seguras no son las que persiguen las herramientas más "autónomas", sino las que adoptan un modelo asistido por IA y liderado por personas.


Puntos clave:

  • La GenAI se ha convertido en un motor principal tanto para las operaciones cibernéticas ofensivas como defensivas, lo que permite phishing más sofisticado, deepfakes, y malware polimórfico, al mismo tiempo que impulsa una detección, clasificación y respuesta más rápidas.

  • Un SOC "solo de IA" o totalmente autónomo es un riesgo, porque los modelos carecen de conciencia situacional, contexto de negocio y responsabilidad; son sólidos en correlación e inferencia, pero débiles en juicios binarios de alto riesgo.

  • Las organizaciones más resilientes adoptan un modelo de seguridad centrado en la IA y liderado por personas, usando la IA para escalar (correlación de señales, enriquecimiento, automatización) y a las personas para el juicio, la investigación y la toma de decisiones basada en el riesgo.

  • Una gobernanza eficaz de la GenAI requiere barreras de protección y supervisión explícitas, incluidas políticas claras de uso aceptable, visibilidad sobre el tráfico de IA, capacitación en concientización de seguridad enfocada en IA, auditorías de IA en la sombra y monitoreo 24/7 liderado por personas sobre las detecciones impulsadas por IA.

La ofensiva: la IA como multiplicador de fuerza para los adversarios

Los adversarios nunca han tenido reparos en abusar de la tecnología nueva. Mientras los desarrolladores éticos pasaron 2024 y 2025 construyendo barreras de protección, los actores de amenazas pasaron ese mismo tiempo buscando cómo evadirlas. La democratización de los LLM potentes ha reducido la barrera de entrada para ataques complejos y ha convertido a script kiddies en operadores mucho más capaces.


1. LLM maliciosos: de WormGPT a modelos tipo DarkBART

La aparición de modelos como WormGPT y sus sucesores marcó un cambio claro. Son LLM efectivamente "liberados" (jailbroken), entrenados con código de malware, análisis de exploits y plantillas de phishing, sin las restricciones éticas de las herramientas convencionales.

En lugar de simplemente ayudar a un atacante a redactar un correo de phishing genérico, los LLM maliciosos ahora generan señuelos hiperpersonalizados y conscientes del contexto, ajustados al rol, la región y la jerga interna del objetivo. Eliminan las señales de alerta clásicas (mala gramática, frases raras), lo que facilita mucho que estos mensajes burlen las puertas de enlace de correo seguro (SEG) tradicionales y engañen incluso a usuarios experimentados.


2. Ingeniería social potenciada por IA y deepfakes

Hemos entrado en la era de la ingeniería social potenciada por tecnología. El ya conocido caso del "CFO deepfake" de Hong Kong, donde engañaron a un empleado para que autorizara una gran transferencia bancaria durante una videollamada en la que los "colegas" eran falsificaciones generadas por IA, ya no es un caso aislado. Es un adelanto.

La ingeniería social actual combina:

  • Clonación de voz en tiempo real para suplantar a ejecutivos o proveedores en llamadas.

  • Síntesis de video e intercambio de rostros para falsificar presencia en reuniones.

  • Guiones y correos escritos por LLM que sostienen estafas prolongadas con un tono coherente y detalles creíbles.

Estos ataques multimodales ponen en jaque directamente la confianza humana. Para profundizar en cómo los deepfakes y la IA generativa están cambiando el tradecraft de la ingeniería social y cómo se están invirtiendo los procesos de verificación, consulta nuestra Guía de ingeniería social y el resumen de nuestro Tradecraft Tuesday sobre IA: ¿amiga o enemiga en la ciberseguridad?.


3. Malware polimórfico e investigación automatizada de vulnerabilidades

Los atacantes también usan IA generativa para automatizar algunas de las partes más intensivas en mano de obra de la cadena de ataque.

  • Malware polimórfico:
    Como mencionamos en nuestra guía sobre virus polimórficos, el malware polimórfico muta su código o apariencia en cada ejecución, manteniendo intacto su comportamiento malicioso. Ahora la IA generativa puede, de forma dinámica:

    • Reescribir la estructura del código y las rutinas de cifrado

    • Rotar claves y estrategias de ofuscación

    • Generar muchas variantes ligeramente distintas a pedido

  • Esto hace que las defensas simples basadas en firmas sean prácticamente inútiles. La detección tiene que pasar al comportamiento, la telemetría y el análisis guiado por personas, en lugar de hashes estáticos.

  • Investigación automatizada de vulnerabilidades ("vibe coding" para exploits):
    Los adversarios están alimentando grandes bases de código propietario a los LLM para identificar posibles debilidades a una escala que los humanos no pueden igualar. En algunos casos, los modelos pueden proponer patrones de exploits o pruebas de concepto directamente, acortando drásticamente el tiempo entre el descubrimiento de un error y su weaponization. Eso es "vibe coding" aplicado a la seguridad ofensiva.

4. La IA cambia la economía del ataque: el Caso de cliente EvilTokens

Una de las señales más claras de que la IA generativa ha cambiado la economía del ataque no es un artículo de investigación, sino un producto que se vende en Telegram. A principios de 2026, los investigadores de Huntress rastrearon una ola de incidentes de phishing por código de dispositivo hasta EvilTokens, una plataforma con modelo de phishing como servicio anunciada por $1.500 más una cuota de mantenimiento de $500.

Durante un período de 16 días, EvilTokens afectó a 344 organizaciones en cinco países al abusar de un flujo legítimo de autenticación por código de dispositivo de Microsoft. No había ninguna contraseña que robar, ningún malware que implementar ni ningún mecanismo de MFA que vulnerar. En cambio, se persuadía a las víctimas de autorizar la sesión del atacante mediante un proceso que les parecía normal.

La IA ayudó a que ese flujo de trabajo fuera más rápido y escalable. EvilTokens generaba señuelos específicos por rol y contextualmente relevantes a velocidad de máquina, generaba códigos de dispositivo de forma dinámica cuando los usuarios llegaban a la página de phishing y usaba el contexto de bandeja de entrada, calendario y documentos para redactar correos de fraude por transferencia convincentes, con la voz de la víctima, en cuestión de minutos tras capturar el token de autenticación. Lo que antes requería horas de trabajo de un ingeniero social experto, ahora podía comprimirse en minutos.

Ese es el verdadero cambio. EvilTokens no necesitó inventar una técnica de autenticación nueva. Empaquetó una existente con automatización asistida por IA, la vendió como servicio y redujo el costo de entrada para ejecutar una campaña de phishing dirigida a alrededor de $2.000, antes de otros gastos operativos. La barrera ya no es solo la habilidad técnica; es el acceso a una plataforma lista para usar y el presupuesto para usarla.

5. La confianza ahora es una superficie de ataque

A medida que las herramientas de IA se vuelven parte de los flujos de trabajo diarios, los atacantes apuntan directamente a la confianza que las personas depositan en esas herramientas, usando marcas conocidas, dominios legítimos y funciones de plataformas confiables para hacer que las acciones maliciosas parezcan rutinarias.

Entre el 21 y el 22 de julio de 2026, Huntress documentó FakeAgent, una campaña de malvertising que usó resultados patrocinados de Bing para dirigir a los usuarios hacia un Artifact público malicioso de Claude, alojado en el dominio legítimo Claude.ai. El Artifact redirigía a los usuarios hacia una descarga falsa de Claude Desktop, y el payload resultante se atribuyó a SectopRAT. Al menos 29 organizaciones fueron víctimas de la campaña, y el Artifact recibió 7.100 vistas de página antes de ser eliminado.

En una investigación distinta realizada en julio, Huntress aplicó ingeniería inversa a MacSync, un stealer y troyano de acceso remoto para macOS de seis etapas. La víctima buscó en Google cómo instalar Claude en una Mac, hizo clic en un resultado patrocinado y llegó a una conversación de claude.ai/share weaponized, diseñada como una guía de instalación de Apple Support. La página indicaba a la víctima que pegara un único comando en la Terminal, lo que activaba una cadena diseñada para robar datos del navegador, secretos de Keychain, credenciales de cuenta, claves de cloud y SSH, e información de billeteras de criptomoneda.

Ninguna de las dos campañas requirió que los atacantes vulneraran el servicio de IA subyacente. En cambio, ambas abusaron de las señales de confianza que rodean a las herramientas de IA: dominios legítimos, publicaciones compartidas públicamente, resultados de búsqueda patrocinados y flujos de instalación conocidos. A medida que las plataformas de IA se vuelven tan habituales como los motores de búsqueda, los atacantes seguirán falsificando esa familiaridad en lugar de intentar vulnerar la tecnología que hay detrás.


La defensa: contrarrestar la velocidad con inteligencia

La IA generativa no es solo una herramienta ofensiva. También se está volviendo esencial para los defensores que necesitan procesar miles de millones de señales por día en endpoints, identidades, SaaS y cloud. A esa escala, los humanos solos no pueden mantener el ritmo, pero tampoco se puede confiar en que la IA tome todas las decisiones.


1. Código autorreparable y honeypots adaptativos

Los defensores están usando IA generativa para cerrar la brecha entre la detección y la respuesta:

  • Sistemas autorreparables: Las plataformas de seguridad modernas pueden detectar configuraciones incorrectas y vulnerabilidades casi en tiempo real, y luego sugerir o aplicar automáticamente soluciones adaptadas al entorno específico. Piénsalo como parchado y gestión de configuración potenciados por IA que reducen tu ventana de exposición.

  • Honeypots adaptativos y engaño: La IA puede generar entornos señuelo convincentes al instante: recursos compartidos falsos, grafos de identidad y aplicaciones que imitan de cerca tu infraestructura real. Estos honeypots se adaptan a medida que los atacantes los exploran, manteniéndolos ocupados más tiempo mientras tu equipo recopila inteligencia de alta fidelidad sobre sus tácticas, técnicas y procedimientos (TTPs).


2. La realidad del SOC inpulsado por IA

El verdadero valor de la IA en el SOC no es el reemplazo, es la clasificación a gran escala.

La IA es adecuada para:

  • Correlacionar alertas ruidosas de endpoints, identidades, correo electrónico y telemetría de red

  • Enriquecer señales sin procesar con contexto (criticidad de un activo de ciberseguridad, cambios recientes, comportamiento del usuario)

  • Presentar un conjunto más pequeño y de mayor calidad de investigaciones para los analistas

Donde la IA tiene dificultades es en el juicio binario: decidir con certeza si una actividad es maliciosa en un entorno real y desordenado. Como hemos señalado en otros lugares, los modelos actuales son fuertes en la inferencia pero débiles al decir "no lo sé", y son vulnerables a la inyección de prompts, las alucinaciones y los puntos ciegos.

Ahí es donde los analistas humanos siguen siendo innegociables.




Principales preocupaciones de la IA generativa en la seguridad

Mientras la batalla de IA contra IA ocupa los titulares, los administradores de TI y los líderes de seguridad deben gestionar el riesgo real dentro de sus propios entornos. Tres preocupaciones están ahora en primer plano.

1. Fuga de datos e IA en la sombra

La fuga de datos es la asesina silenciosa de la propiedad intelectual corporativa.

Los empleados, ansiosos por ganar productividad, rutinariamente pegan:

  • Listas de clientes y datos de negociaciones

  • Código fuente o scripts propietarios

  • Modelos financieros y detalles de hojas de ruta en LLM públicos y extensiones de navegador no verificadas.

Esto alimenta la IA en la sombra: el uso no autorizado e invisible de IA que evita tus controles y gobernanza existentes. Sin políticas sólidas y monitoreo, tu perímetro puede parecer bien cerrado mientras los datos sensibles se filtran constantemente a través de herramientas de IA que no controlas.

2. Inyección de prompts: la nueva inyección SQL

Así como los equipos de seguridad tuvieron que aprender a sanear las entradas de bases de datos para evitar la inyección SQL, ahora tenemos que proteger los prompts y las entradas de los modelos.

Los ataques de inyección de prompts buscan:

  • Anular las instrucciones originales del sistema

  • Exfiltrar conocimiento interno sensible

  • Abusar de las integraciones del modelo (por ejemplo, acceso a archivos, tickets o API de administración)

  • Inducir acciones no autorizadas, desde cambiar configuraciones hasta filtrar secretos

Cualquier agente de IA que pueda "tomar acciones" en tu nombre debe tratarse como un componente poderoso y de alto riesgo, y defenderse con el mismo rigor que una aplicación web en producción.


3. El mito del "SOC solo con IA"

Hay un impulso de marketing cada vez mayor hacia el "SOC autónomo" total: la promesa de que puedes entregarle las llaves a un agente de IA y alejarte.

En Huntress, vemos eso como un riesgo, no como una estrategia.

La IA carece de conciencia situacional y de sentido de las consecuencias. Puede ver anomalías, pero no entiende:

  • Que un inicio de sesión poco común puede ser un ingeniero en un viaje de último momento, no un intruso

  • Que una herramienta ruidosa en un sistema heredado es crítica para el negocio y no se puede simplemente desactivar

  • Que un atacante que "vive de la tierra" con herramientas legítimas puede verse similar a un usuario avanzado haciendo una resolución de problemas avanzada

Un SOC solo con IA corre el riesgo de tener tanto falsos positivos con impacto real en el negocio (cierres innecesarios, procesos bloqueados) como falsos negativos donde intrusiones sutiles dirigidas por humanos pasan desapercibidas.




Por qué la responsabilidad no se puede externalizar

El impulso hacia un SOC totalmente impulsado por IA choca directamente con un requisito central de los programas de seguridad: la responsabilidad.

Cuando ocurre una brecha:

  • Un algoritmo no puede informar a tu directorio, reguladores o clientes.

  • No se le pueden cuestionar a un modelo las decisiones de juicio que tomó o el contexto que pasó por alto.

  • "Lo hizo la IA" no es una explicación de control defendible.

Los analistas humanos aportan el control de cordura que la IA no puede dar. Son responsables de interpretar señales, sopesar el contexto del negocio y tomar decisiones informadas por el riesgo.

La postura más eficaz que vemos es asistida por IA, liderada por humanos:

  • La IA se encarga de la escala: normalizando la telemetría, clasificando alertas y enriqueciendo el contexto.

  • Los humanos se encargan del juicio: decidiendo qué es realmente malicioso, qué contener y cómo comunicar y remediar.

Un analista humano puede reconocer cuando un inicio de sesión "sospechoso" es en realidad un empleado legítimo en un viaje inesperado, o cuando un script aparentemente inofensivo forma parte de una campaña de intrusión más amplia. Esa comprensión de la intención y el impacto sigue siendo exclusivamente humana.


Gobernanza: una lista práctica para el uso seguro de la IA

Para navegar este nuevo panorama, las organizaciones necesitan más que herramientas, necesitan gobernanza. Usa esta lista de verificación como punto de partida para gestionar la IA generativa y reducir el riesgo de IA en la sombra.


Categoría

Elemento de acción

Meta

Política

Establece una Política de uso aceptable (AUP) clara para la IA generativa.

Define qué datos se pueden compartir, qué herramientas están aprobadas y dónde está prohibida la IA.

Visibilidad

Implementa DLP y registro que puedan ver el tráfico de LLM e IA.

Detecta y bloquea PII, secretos y propiedad intelectual sensible que se envíen a herramientas de IA públicas o no verificadas.

Educación

Implementa security awareness training (SAT) específico para IA.

Enséñales a los empleados sobre deepfakes, filtración de prompts y patrones de uso seguro.

Gobernanza

Audita regularmente tu huella de IA en la sombra.

Identifica extensiones de navegador de IA no aprobadas, herramientas SaaS e integraciones de API en uso.

Respuesta

Integra las detecciones de IA con un SOC humano, inpulsado por IA, disponible 24/7.

Asegúrate de que las amenazas marcadas por IA sean validadas, investigadas y remediadas por expertos.

Este marco no eliminará el riesgo de la IA, pero lo transforma de un experimento sin control a un programa gestionado y auditable.



Conclusión: dominar la espada

La IA generativa ha transformado radicalmente el panorama de la seguridad, pero no ha cambiado la misión principal: proteger a las personas y sus datos.

La IA es un arma de doble filo:

  • En manos de un atacante, acelera el phishing, los deepfakes, el reconocimiento y el desarrollo de exploits.

  • En manos de un defensor, acelera la detección, la investigación y la remediación, si se guía y gobierna correctamente.

Las organizaciones que buscan una solución puramente “solo IA” apuestan su postura de riesgo a sistemas que carecen de contexto, responsabilidad y verdadera comprensión. Las organizaciones que adoptan un modelo asistido por IA pero liderado por humanos mantienen a las personas en el circuito para las decisiones que más importan.

Ese es el futuro de la seguridad: un modelo “centauro” donde la velocidad y la escala de las máquinas son dirigidas por el juicio, la experiencia y la responsabilidad de los humanos.




Protege lo que importa

Protege endpoints, correo electrónico y empleados con el poder de nuestro SOC 24/7. Prueba Huntress gratis y despliega en minutos para empezar a combatir las amenazas.
Probar Huntress gratis

También te puede interesar

Más información sobre Mejores prácticas de seguridad de IA para MSP: lista de verificación de seguridad de agentes de IA
Mejores prácticas de seguridad de IA para MSP: lista de verificación de seguridad de agentes de IA
Guía de recursos

Los agentes de IA pueden ampliar la superficie de ataque de un cliente de un MSP mediante permisos excesivos, integraciones sin gestionar e identidades de máquina opacas. Esta lista de verificación práctica ayuda a los MSP a inventariar agentes de IA, aplicar el principio de privilegio mínimo, monitorear el comportamiento y construir procesos de respuesta repetibles en todos sus clientes.

Más información sobre Las mejores soluciones de SIEM para MSP
Las mejores soluciones de SIEM para MSP
Guía de recursos

Muchas herramientas SIEM tradicionales son, en la práctica, máquinas inútiles de generar ruido. Necesitas una plataforma creada para tu equipo que ofrezca visibilidad multiinquilino, priorización inteligente de alertas y costos predecibles. Deja de ahogarte en alertas inútiles y empieza a detectar amenazas reales. Lee nuestra guía para encontrar un SIEM que de verdad funcione.

Más información sobre Precios de servicios de TI administrados: guía completa de modelos de precios para MSP
Precios de servicios de TI administrados: guía completa de modelos de precios para MSP
Guía de recursos

Descubre algunas formas comprobadas de estructurar los precios de un MSP (por dispositivo, por usuario, por niveles o híbrido) y evita los errores más comunes.