Lecția 3 din 12
LLM07: Scurgerea promptului de sistem
Promptul de sistem e textul ascuns prin care îi dai modelului rolul și regulile lui. Mulți îl tratează ca pe un loc sigur, ca și cum utilizatorul nu ar ajunge niciodată la el. Greșit. Presupune că promptul de sistem poate fi extras, pentru că, în practică, poate. Riscul nu e că cineva îl citește, ci ce ai pus tu acolo crezând că e ascuns. De ce se poate extrage Promptul de sistem ajunge, la fiecare cerere, în același text pe care modelul îl procesează împreună cu mesajul utilizatorului. Cu formulări potrivite, un utilizator poate face modelul să repete sau să rezume acel text. S-a demonstrat…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile
- 3 LLM07: Scurgerea promptului de sistem ești aici
- 4 LLM05: Tratarea greșită a ieșirii
- 5 LLM09: Dezinformarea
- 6 LLM04: Otrăvirea datelor și a modelului
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final