Lecția 4 din 12
LLM05: Tratarea greșită a ieșirii
Am ajuns la un risc pe care l-ai mai întâlnit dacă ai făcut cursul despre injecții și XSS: ieșirea modelului e input netrusted. Acolo am disecat afișarea răspunsului ca HTML și portița dangerouslySetInnerHTML. Aici nu repetăm partea de afișare, ci mergem mai departe, spre partea mai gravă: ce se întâmplă când ieșirea modelului nu e doar afișată, ci hrănește un alt sistem. Recapitulare scurtă Ieșirea unui model se construiește pe baza a tot ce a primit, inclusiv conținut din afară. Dacă acel conținut purta instrucțiuni ascunse, ele pot ajunge în răspuns. Deci răspunsul modelului nu e mai de în…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile
- 3 LLM07: Scurgerea promptului de sistem
- 4 LLM05: Tratarea greșită a ieșirii ești aici
- 5 LLM09: Dezinformarea
- 6 LLM04: Otrăvirea datelor și a modelului
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final