Las aplicaciones con LLM están saliendo a producción más rápido de lo que puede analizar el equipo de Seguridad. Prompt injection, fuga de datos sensibles, envenenamiento de contexto, abuso de herrami… Ver más

Las aplicaciones con LLM están saliendo a producción más rápido de lo que puede analizar el equipo de Seguridad. Prompt injection, fuga de datos sensibles, envenenamiento de contexto, abuso de herramientas conectadas, shadow AI. La superficie de riesgo existe pero los equipos no tienen una forma sistémica de realizar el análisis para poder ir tan rápido como el desarrollo. La charla propone un método de Threat Modeling específico para apps con LLM, mapeado directamente con el framework vigente de OWASP Top 10 para Large Language Models. En 25 minutos vamos a recorrer los 4 pasos de un método práctico con un caso concreto de un chatbot de atención al cliente con RAG y function calling. Lo que se llevara la gente que participe: Una plantilla de Threat Modeling adaptada a proyectos con LLM. Los vectores de ataque de OWASP top10 LLM que se ven más en la industria. Criterios para mitigar de manera efectiva según el riesgo. Un checklist mínimo para no ser un stopper de los proyectos y no generar fricción con el negocio y/o desarrolladores. La charla está pensada para profesionales de seguridad, desarrolladores integrando IA y líderes técnicos que están viendo cómo gobernar el uso de LLMs sin frenar al negocio. No requiere experiencia previa en threat modeling. Sobre Germán Ariel Borda: Soy Jefe de GRC en una entidad financiera Argentina, donde lidero un equipo a cargo de compliance, auditoría, desarrollo seguro, gestión de riesgos y concientización en un entorno regulado por BCRA. Soy chapter leader de OWASP Buenos Aires y curso la Licenciatura en Ciberseguridad. Divulgo ciberseguridad para audiencias hispanohablantes no técnicas a través de CiberConscientes, con foco en hacer accesibles temas que tradicionalmente quedan encerrados en jerga. Me interesa especialmente la intersección entre IA, seguridad de aplicaciones y gobernanza de riesgo en industrias reguladas. Ver menos