Participatory AI auditing is een manier om AI-systemen te controleren waarbij ook gebruikers en betrokken groepen actief meedoen aan de evaluatie, in plaats van alleen technische experts.
Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Uitleg van participatory AI auditing in begrijpelijke taal
Normaal gesproken controleren ontwikkelaars of externe controleurs AI-systemen. Zij beoordelen of het systeem technisch goed werkt en voldoet aan regels.
Bij participatory AI auditing gebeurt er echter iets extra’s. Ook mensen die met de AI te maken krijgen doen mee. Denk bijvoorbeeld aan burgers, klanten of medewerkers.
Zij kijken namelijk niet naar de techniek, maar naar de praktijk. Zo beoordelen zij:
- of het systeem eerlijk werkt
- of mensen worden benadeeld
- of de uitkomst klopt in echte situaties
Daardoor ontdek je problemen die je anders makkelijk mist.
Hoe werkt participatory AI auditing?
Het proces bestaat meestal uit drie stappen.
Eerst testen organisaties het AI-systeem met echte gebruikers of vertegenwoordigers van een doelgroep. Daarbij krijgen zij inzicht in hoe het systeem beslissingen maakt.
Vervolgens verzamelen organisaties feedback. Denk bijvoorbeeld aan:
- foutieve beslissingen
- onduidelijke uitleg van het systeem
- signalen van discriminatie of bias, wat ook wel een vooroordeel is
Tot slot gebruiken organisaties deze inzichten om het systeem te verbeteren. Zo passen ze het model aan of veranderen ze de manier waarop het wordt gebruikt.
Daarnaast sluit deze aanpak goed aan bij de EU AI Act, waarin transparantie en risicobeheersing centraal staan.
Praktisch voorbeeld of toepassingen
Stel dat een organisatie AI gebruikt om sollicitaties te beoordelen.
Zonder participatory auditing testen alleen ontwikkelaars het systeem. Daardoor lijkt het technisch goed te werken.
Met participatory auditing gebeurt er meer. Zo:
- geven sollicitanten feedback op afwijzingen
- controleert HR of bepaalde groepen vaker worden afgewezen
- beoordelen externe partijen het systeem op eerlijkheid
Hierdoor wordt sneller duidelijk of het systeem onbewust bepaalde profielen benadeelt. Vervolgens kan de organisatie dit aanpassen.
Verder leren
Wil je beter begrijpen hoe AI beslissingen maakt en waar risico’s ontstaan? Bekijk dan ook de Gratis Basiscursus AI. Liever visuele uitleg en korte voorbeelden? Op mijn YouTube-kanaal De Wereld van AI vind je aanvullende video’s die deze concepten stap voor stap uitleggen.