Hallucination
Wat is Hallucination?
Een hallucinatie is wanneer een AI-model iets verzint dat niet klopt, maar het presenteert alsof het waar is. Het model ‘liegt’ niet bewust — het genereert tekst op basis van statistische patronen en soms leidt dat tot plausibel klinkende maar feitelijk onjuiste informatie.
Dit is een van de grootste risico’s van generatieve AI. Een model kan met volle overtuiging een wetsartikel citeren dat niet bestaat, een statistiek noemen die verzonnen is of een procedure beschrijven die niet klopt. En het doet dit zonder waarschuwing.
De oorzaken zijn divers: het model heeft de juiste informatie niet in zijn training gehad, de vraag is ambigu, of het model ‘vult aan’ waar het geen zeker antwoord heeft. Het is geen bug die gefixed kan worden, maar een fundamentele eigenschap van hoe taalmodellen werken.
De oplossing? RAG (antwoorden baseren op echte bronnen), human-in-the-loop (menselijke controle op kritieke momenten) en guardrails (het model instrueren om ‘ik weet het niet’ te zeggen in plaats van te gokken).
Voorbeeld uit de praktijk
Visser Elektrotechniek besteedde gemiddeld twintig minuten aan de administratieve verwerking van elk inspectierapport. Met de AI-oplossing van Agentech worden rapporten nu automatisch geanalyseerd en naar de juiste afdeling doorgestuurd. Bij gebreken maakt het systeem ook een bestellijst met artikelnummers, aantallen en locaties. Binnen vijf minuten is de verwerking klaar, zonder handmatig overtypen.
Bekijk de case van Visser ElektrotechniekWat betekent dit voor jouw organisatie?
Agentech bouwt altijd controles in om hallucinaties te voorkomen of te detecteren. Van RAG voor bronverificatie tot human-in-the-loop voor kritieke beslissingen — betrouwbaarheid is niet optioneel.