Iš kito informacijos kanalo (DIA savaitiniai susirinkimai) pasiėmiau patobulinimą automatizacijoms, kurios apdirba išorinę informaciją. Pavojinga vieta yra laiškas ar žinutė ar webpage turinys, kuriame paslėpta instrukcija. Rekomendavo paprastą ribą: prieš LLM paduodant, sudėti į JSON; visas išorinis turinys keliauja į untrustedContent, LLMui aiškiai parašant, kad tai tik duomenys. Nesunkus patobulinimas, bent dalinis užkardymas nuo prompt injection.
- 👍1
- 🔥1