Lecția 9 din 12
LLM06: Agenția excesivă, agentul cu prea multă putere
Un agent e un model căruia i-ai dat unelte: poate căuta, poate scrie în baza de date, poate trimite mesaje, poate chema alte servicii. Agenția excesivă e riscul de a-i da mai multă putere decât are nevoie. Iar când se combină cu injecția de prompt din prima lecție, o instrucțiune strecurată de undeva se poate transforma într-o acțiune reală și distructivă. Trei feluri de „prea mult” OWASP împarte agenția excesivă în trei. Prea multă funcționalitate: agentul are unelte de care nu are nevoie pentru sarcina lui, deci o deturnare are mai multe pârghii. Prea multe permisiuni: o unealtă poate face…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile
- 3 LLM07: Scurgerea promptului de sistem
- 4 LLM05: Tratarea greșită a ieșirii
- 5 LLM09: Dezinformarea
- 6 LLM04: Otrăvirea datelor și a modelului
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere ești aici
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final