Explainable AI XAI
Wat is Explainable AI?
Explainable AI (XAI) is AI die kan uitleggen waarom het tot een bepaalde conclusie of beslissing is gekomen. In plaats van een zwarte doos die een antwoord geeft zonder uitleg, laat XAI zien welke factoren hebben meegewogen en hoe de conclusie tot stand kwam.
Dit is belangrijk om meerdere redenen. Ten eerste: vertrouwen. Als een medewerker niet begrijpt waarom de AI iets adviseert, zal die het advies negeren of blind opvolgen. Beide zijn problematisch. Ten tweede: compliance. De AI Act vereist voor hoog-risico toepassingen dat je kunt uitleggen hoe beslissingen tot stand komen. Ten derde: verbetering. Als je niet begrijpt waarom het model iets doet, kun je het ook niet verbeteren.
In de praktijk kan XAI variëren van simpel (het model geeft een confidence score bij elke beslissing) tot uitgebreid (het model toont welke woorden of factoren het zwaarst meewogen).
Voor bedrijfsautomatisering is een middenweg vaak het meest praktisch: het systeem geeft een helder advies met een korte onderbouwing, zodat een mens snel kan beoordelen of het klopt.
Voorbeeld uit de praktijk
Visser Elektrotechniek besteedde gemiddeld twintig minuten aan de administratieve verwerking van elk inspectierapport. Met de AI-oplossing van Agentech worden rapporten nu automatisch geanalyseerd en naar de juiste afdeling doorgestuurd. Bij gebreken maakt het systeem ook een bestellijst met artikelnummers, aantallen en locaties. Binnen vijf minuten is de verwerking klaar, zonder handmatig overtypen.
Bekijk de case van Visser ElektrotechniekWat betekent dit voor jouw organisatie?
Agentech bouwt AI-oplossingen die uitlegbaar zijn. Niet als luxe maar als standaard. Want een automatisering die niemand begrijpt, wordt door niemand vertrouwd.