Tool poisoning
Wat is Tool poisoning?
Tool poisoning is een aanval waarbij een bestaande, vertrouwde tool wordt aangepast zodat deze naast zijn normale functionaliteit ook kwaadaardige acties uitvoert. De tool werkt nog steeds zoals verwacht, maar lekt tegelijkertijd stilletjes data of voert ongewenste acties uit.
Het verschil met een rug pull: bij een rug pull wordt de hele tool kwaadaardig. Bij tool poisoning wordt er subtiel functionaliteit toegevoegd die moeilijk te detecteren is omdat de tool verder normaal functioneert.
Voor AI-agents is dit risico reëel bij het gebruik van third-party tools en MCP-servers. Een gecompromitteerde tool kan elke actie die de agent uitvoert misbruiken om data te exfiltreren of ongewenste bijeffecten te veroorzaken.
Beveiligingsmaatregelen: code-reviews van tools, monitoring van het gedrag van tools (verstuurt de tool data naar onverwachte bestemmingen?), en het draaien van tools in sandboxes.
Voorbeeld uit de praktijk
Visser Elektrotechniek besteedde gemiddeld twintig minuten aan de administratieve verwerking van elk inspectierapport. Met de AI-oplossing van Agentech worden rapporten nu automatisch geanalyseerd en naar de juiste afdeling doorgestuurd. Bij gebreken maakt het systeem ook een bestellijst met artikelnummers, aantallen en locaties. Binnen vijf minuten is de verwerking klaar, zonder handmatig overtypen.
Bekijk de case van Visser ElektrotechniekWat betekent dit voor jouw organisatie?
Agentech monitort het gedrag van alle tools die AI-agents gebruiken. Niet alleen of ze werken, maar ook of ze zich gedragen.