Prompt Injection y Jailbreaking en Modelos de Lenguaje: Vectores de Ataque Adversarial y Técnicas de Defensa en Producción
La mayor vulnerabilidad del software basado en LLMs al descubierto: el ataque de inyección de prompts directa e indirecta. Analizamos cómo los atacantes secuestran la lógica de agentes inteligentes a través de correos o páginas web, la física de los sufijos adversariales (GCG) y los cortafuegos neuronales (Llama Guard, NeMo) indispensables en producción.
Read more