Los especialistas en seguridad de IA manejan varias tareas críticas para mantener seguros los sistemas de IA. A continuación, un desglose de sus principales funciones:

• Modelado de amenazas para sistemas de IA: evalúan los riesgos únicos que enfrentan los modelos de IA, como el envenenamiento de datos o los ejemplos adversarios, y desarrollan estrategias para contrarrestarlos.

• Protección de los datos de entrenamiento: dado que la IA depende de los datos para aprender, los especialistas garantizan que estos datos se mantengan confidenciales y a prueba de manipulaciones.
• Defensa contra ataques adversarios: los ataques adversarios usan entradas manipuladas para engañar a los modelos de IA y hacer que tomen decisiones incorrectas. Los especialistas trabajan para detectar y bloquear estos intentos encubiertos.
• Monitoreo del comportamiento de los sistemas de IA: al estudiar las salidas de la IA en tiempo real, pueden identificar patrones inusuales que podrían indicar una brecha.
• Respuesta y recuperación ante incidentes: cuando algo sale mal, investigan la causa y restauran el sistema a un funcionamiento seguro.
• Cumplimiento normativo e IA ética: garantizan que los sistemas de IA se alineen con los marcos legales (p. ej., GDPR) y los estándares éticos, evitando sesgos y protegiendo los datos de los usuarios.