Opleiding: Secure AI Programming
Leer hoe je veilige AI-applicaties bouwt en de grootste beveiligingsrisico's rond Large Language Models herkent en mitigeert.
Beschrijving
AI-applicaties brengen nieuwe beveiligingsrisico's met zich mee die niet in klassieke security frameworks voorkomen. In deze training staat de OWASP Top 10 voor Large Language Models centraal: een praktische leidraad voor de meest kritieke kwetsbaarheden in LLM-gebaseerde systemen.
Je leert niet alleen de risico's herkennen, maar ook hoe je er effectief tegen verdedigt — of je nu een AI-applicatie bouwt, integreert of beoordeelt. De nadruk ligt op praktische toepassing: van prompt injection tot excessive agency, je begrijpt hoe aanvallen werken en hoe je ze voorkomt.
Deze training is bedoeld voor developers, architects, DevOps-engineers, testers en product owners die:
- AI-functionaliteit integreren in hun applicaties
- begrijpen welke nieuwe beveiligingsrisico's dat met zich meebrengt
- concrete maatregelen willen nemen om hun AI-systemen te beveiligen
Leerdoelen
- Identify the OWASP Top 10 risks specific to LLM-based applications [Remember]
- Defend against prompt injection attacks and describe mitigation strategies [Understand]
- Explain how improper output handling can lead to downstream exploits [Understand]
- Apply input and output validation techniques for LLM integrations [Apply]
- Implement access control and least privilege in LLM-based systems [Apply]
- Apply appropriate safeguards to mitigate risks in agentic AI systems [Apply]
Onderwerpen
- Introductie tot AI-beveiliging en de OWASP LLM Top 10
- LLM01: Prompt Injection
- LLM02: Sensitive Information Disclosure
- LLM03: Supply Chain Vulnerabilities
- LLM04: Data and Model Poisoning
- LLM05: Improper Output Handling
- LLM06: Excessive Agency
- LLM07: System Prompt Leakage
- LLM08: Vector and Embedding Weaknesses
- LLM09: Misinformation
- LLM10: Unbounded Consumption
- Beveiligingspatronen voor AI-applicaties in de praktijk
