Lecția 5 din 12
LLM09: Dezinformarea
Un model poate produce un răspuns care sună sigur și e complet greșit. Nu din rea intenție, ci pentru că generează text plauzibil, nu adevăr verificat. Riscul, numit de OWASP Misinformation, e dublu: modelul produce informație falsă, iar oamenii, inclusiv tu, ajung să se bazeze pe ea fără să o verifice. De ce apare Un model prezice ce text urmează, pe baza a ce a văzut. Când nu „știe”, nu tace, ci completează cu ceva credibil. Rezultatul e un răspuns fluent, cu detalii inventate, care arată identic cu un răspuns corect. Fenomenul e cunoscut ca halucinație. În fluxuri fără mize e o neplăcere…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile
- 3 LLM07: Scurgerea promptului de sistem
- 4 LLM05: Tratarea greșită a ieșirii
- 5 LLM09: Dezinformarea ești aici
- 6 LLM04: Otrăvirea datelor și a modelului
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final