Stored prompt injection
Wat is Stored prompt injection?
Stored prompt injection is een variant van prompt injection waarbij de kwaadaardige instructies niet direct door een gebruiker worden ingevoerd maar zijn opgeslagen in een databron die de agent later leest. Denk aan een beschrijvingsveld in een database, een opmerking in een document of een verborgen instructie in een e-mail.
Dit maakt het extra gevaarlijk. De aanvaller hoeft geen directe toegang tot de agent te hebben. Hij plaatst de instructie in een systeem waar de agent later data uit leest, en de instructie wordt alsnog uitgevoerd.
Voorbeelden: een kwaadaardige instructie in het notitieveld van een CRM-record. Een verborgen tekst in een PDF die de agent analyseert. Een productbeschrijving op een website die de agent scrapet.
Beveiligingsmaatregelen: data die van externe bronnen komt altijd behandelen als onbetrouwbaar, inputvalidatie toepassen, en de agent instrueren om nooit instructies op te volgen die in datavelden staan.
Voorbeeld uit de praktijk
Visser Elektrotechniek besteedde gemiddeld twintig minuten aan de administratieve verwerking van elk inspectierapport. Met de AI-oplossing van Agentech worden rapporten nu automatisch geanalyseerd en naar de juiste afdeling doorgestuurd. Bij gebreken maakt het systeem ook een bestellijst met artikelnummers, aantallen en locaties. Binnen vijf minuten is de verwerking klaar, zonder handmatig overtypen.
Bekijk de case van Visser ElektrotechniekWat betekent dit voor jouw organisatie?
Agentech bouwt bescherming tegen stored prompt injection in elke AI-agent die externe data verwerkt.