Riesgo en Agentes de IA y Ciberseguridad

Bienvenido a un nuevo análisis de La Autopsia del Riesgo, la sección donde abrimos en canal lo que pasa cuando la ciberseguridad y la inteligencia artificial empiezan a depender la una de la otra. Hoy toca algo que da que pensar: las mismas IA que ponemos a defendernos, las que revisan código, vigilan la infraestructura y protegen los datos, se están convirtiendo en el blanco preferido del que ataca. Con investigaciones recientes en la mano vemos cómo se puede manipular a los modelos y a los agentes, con más del 90% de éxito en entornos controlados. Y subrayo controlados. No es que todo caiga igual en producción, pero los mecanismos están descritos y se pueden repetir. Lo que vemos en el vídeo: De chatbot a agente autónomo. Un chatbot contesta y se acaba ahí. Un agente guarda memoria a largo plazo, abre APIs y ejecuta herramientas. Es la diferencia entre atender en el mostrador o darle a alguien las llaves del almacén: hace mucho más trabajo, pero también hay mucho más que puede salir mal si consiguen engañarlo. Engañando detectores con ALIBI. Unos comentarios preparados metidos en el código y el detector deja de ver la vulnerabilidad que tiene delante. Es colgar el cartel de máquina revisada encima de una que está echando humo. La avería sigue ahí; el que llega después se fía del cartel y pasa de largo. Envenenamiento en sistemas RAG. Cuando la IA responde consultando documentos de fuera y nadie controla de dónde salen, quién los ha metido ni si están manipulados, basta con colar unos cuantos trucados para contaminar el archivador entero. TriShieldRAG mete tres capas de defensa y baja el éxito del ataque del 91% al 13% en las pruebas analizadas. No lo vuelve intocable, pero deja claro que una sola barrera no aguanta. Cadena de suministro con archivos de habilidades. Habilidades maliciosas subidas a repositorios abiertos que cambian el comportamiento del agente desde dentro. Es montar en la máquina un recambio que parece de fábrica y que trae puerta trasera. Escenarios combinados con SPORE y SkillGate. Aquí se junta todo: agentes reprogramados con habilidades trucadas para sacar memoria privada sin romper el sistema ni levantar la liebre. El agente sigue saludando igual que ayer mientras deja una copia de las llaves en la puerta de atrás. Recomendaciones prácticas. Revisión humana de verdad, listas blancas, control de procedencia, permisos separados y auditorías de integridad continuas. Al final la pregunta se responde sola: las IA todavía no están listas para ir solas y sin defensas estrictas. No basta con proteger los datos, las herramientas y el acceso. Hay que proteger también a los sistemas que revisan, filtran y deciden qué puede hacer el agente. Porque si al que vigila se le puede engañar, proteger al vigilante deja de ser un extra. Pasa a ser parte del curró.