Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Explainable AI, vaak afgekort als XAI, gaat over het begrijpelijk maken van beslissingen die door AI-modellen worden genomen. Moderne AI-systemen, vooral deep-learningmodellen, kunnen zeer krachtig zijn maar werken vaak als een black box. Dat betekent dat de interne werking lastig te doorgronden is voor gebruikers.
XAI probeert dat probleem op te lossen door technieken te bieden die laten zien waarom een model een bepaalde keuze maakt. Hierdoor kunnen mensen beter controleren of een AI-systeem eerlijk, veilig en betrouwbaar werkt.
Waarom is Explainable AI belangrijk?
AI wordt steeds vaker gebruikt in belangrijke situaties, zoals zorg, financiën, overheid en veiligheid. In zulke domeinen is het essentieel om te weten:
- hoe een model tot zijn voorspelling komt,
- of de beslissing klopt,
- of het model geen ongewenste vooroordelen bevat,
- en of het veilig gebruikt kan worden in de praktijk.
Zonder uitleg blijft er onzekerheid. Met XAI kunnen gebruikers beter vertrouwen op de uitkomsten van een AI-model.
Voorbeelden van XAI-technieken
1. Feature importance
Laat zien welke kenmerken (features) het meest hebben meegedaan in de beslissing. Bijvoorbeeld: een AI-model dat kredietbeoordelingen doet laat zien dat inkomen belangrijker was dan leeftijd.
2. SHAP-waarden
Geeft per individueel geval aan hoeveel elk kenmerk heeft bijgedragen aan het eindresultaat.
3. LIME
Maakt een lokale, eenvoudige uitleg van één specifieke voorspelling, zodat gebruikers begrijpen waarom het model juist die uitkomst gaf.
4. Visualisaties voor beeldmodellen
Bijvoorbeeld heatmaps die laten zien welke delen van een afbeelding een neuraal netwerk gebruikte om iets te herkennen.
Wat heb je aan XAI?
XAI helpt je om:
- AI-systemen te controleren,
- fouten en vooroordelen sneller te ontdekken,
- betere keuzes te maken bij het ontwikkelen van AI-modellen,
- vertrouwen op te bouwen bij gebruikers en organisaties.
Voor jouw eigen werk of leertraject helpt XAI om AI niet alleen te gebruiken, maar ook te begrijpen.
Verder leren
Wil je op een toegankelijke manier begrijpen hoe AI-modellen werken en waarom uitlegbaarheid zo belangrijk is? In mijn Gratis Basiscursus AI ontdek je stap voor stap de basis van AI, zonder technisch jargon.
DE WERELD VAN AI 