Lecția 2 din 12
LLM02: Scurgerea de informații sensibile
Al doilea risc e mai simplu de înțeles și la fel de des întâlnit: modelul ajunge să spună în răspuns lucruri care nu trebuiau să iasă. Chei, date personale, fragmente din alți utilizatori, detalii interne. Nu pentru că modelul e indiscret, ci pentru că i-ai dat acces la ele sau i le-ai pus chiar tu în context. Unde apare în aplicația ta Sunt trei portițe obișnuite. Prima: pui tu date sensibile în prompt, ca să „aibă context”, de exemplu lipești tot profilul clientului, inclusiv câmpuri pe care nu voiai să le arăți. A doua: modelul are acces la o sursă de date (o bază, un RAG) care nu e filtra…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile ești aici
- 3 LLM07: Scurgerea promptului de sistem
- 4 LLM05: Tratarea greșită a ieșirii
- 5 LLM09: Dezinformarea
- 6 LLM04: Otrăvirea datelor și a modelului
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final