Premium
Feature-uri AI sigure: OWASP Top 10 for LLM pentru aplicația ta
11 lecții
1 oră
Certificat inclus
Ai pus, sau vrei să pui, un chatbot, o căutare cu AI, un RAG sau un agent în aplicație. Fiecare aduce riscuri noi: injecție de prompt, scurgere de date, agenți cu prea multă putere. Cursul ia pe rând toate cele zece riscuri din OWASP Top 10 for LLM Applications 2025, plus modurile auto-run din uneltele de cod, și pentru fiecare îți arată ce e, unde apare în aplicația ta și ce guardrail pui. Fără alarmism, defensiv, cu exemple de „înainte și după”.
Ce înveți
- Cele zece riscuri din OWASP Top 10 for LLM Applications 2025, explicate defensiv, pe rând
- Cum oprești injecția de prompt, directă și indirectă, într-un chatbot, RAG sau agent
- Unde stau, de fapt, secretele și autorizarea, și de ce nu în promptul de sistem
- Cum tratezi ieșirea modelului ca input netrusted, când e afișată și când devine acțiune
- Cum izolezi datele într-un RAG: filtrare pe utilizator, baza de vectori, otrăvirea surselor
- Cum limitezi un agent (privilegiu minim, aprobare umană) și cum lucrezi sigur cu modurile auto-run
Pentru cine e cursul
- Developeri care adaugă un chatbot, o căutare cu AI, un RAG sau un agent într-o aplicație reală
- Fondatori și non-tehnici care livrează un feature cu AI peste Supabase, Firebase sau Vercel
- Oricine conectează un model la datele proprii ale utilizatorilor și vrea să nu le scurgă
- Cei care folosesc agenți de cod (Cursor, Windsurf, Claude Code) și vor să înțeleagă modurile auto-run
De ce ai nevoie
- Ajută dacă ai făcut cursurile anterioare din serie, mai ales cel despre injecții și XSS, dar nu e obligatoriu
- Nu ai nevoie de experiență în securitate AI; fiecare risc e explicat de la zero, defensiv
Ce intră în model: injecție și date sensibile
3Ce iese din model: output și dezinformare
2Ce hrănește modelul: RAG, vectori, dependențe
3Ce poate face modelul: agenți, putere, consum
3Test final și diplomă
1