Lecția 6 din 12
LLM04: Otrăvirea datelor și a modelului
Până acum am vorbit despre ce intră și ce iese la momentul unei cereri. Otrăvirea e despre un moment mai devreme: cineva strecoară conținut rău în datele din care modelul învață sau din care se documentează. Dacă sursele tale sunt otrăvite, modelul dă răspunsuri greșite sau periculoase fără ca cererea în sine să conțină nimic suspect. Unde apare în aplicația ta Puțini developeri își antrenează propriul model, deci partea de antrenare te privește mai puțin direct. Ce te privește aproape sigur e baza de cunoștințe a unui feature de tip RAG: colecția de documente pe care modelul le citește ca să…
Restul lecției se deschide după înscriere
Cursul costă 4,99 € (plata în lei, la cursul zilei), iar la final primești un certificat verificabil.
Ce cuprinde cursul
- 1 LLM01: Injecția de prompt fără cont
- 2 LLM02: Scurgerea de informații sensibile
- 3 LLM07: Scurgerea promptului de sistem
- 4 LLM05: Tratarea greșită a ieșirii
- 5 LLM09: Dezinformarea
- 6 LLM04: Otrăvirea datelor și a modelului ești aici
- 7 LLM08: Slăbiciuni ale vectorilor și embeddingurilor
- 8 LLM03: Lanțul de aprovizionare
- 9 LLM06: Agenția excesivă, agentul cu prea multă putere
- 10 LLM10: Consumul nelimitat
- 11 Modurile auto-run și aprobarea umană
- 12 Test final