Bias, of vooroordeel, ontstaat wanneer een AI-systeem een voorkeur ontwikkelt die leidt tot scheve, onnauwkeurige of oneerlijke uitkomsten. Bias komt niet voort uit de intenties van een model, maar uit de data waarmee het is getraind. Als die data onvolledig, scheef verdeeld of eenzijdig is, neemt een model die patronen over.
Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Hoe bias in AI zichtbaar wordt
Bias kan op veel manieren zichtbaar worden. Denk aan een model dat bepaalde groepen minder goed herkent, vertalingen die stereotype voorbeelden geven of een aanbevelingssysteem dat steeds dezelfde soort inhoud blijft tonen. Bias hoeft niet altijd negatief te zijn, maar wordt dat wel wanneer het leidt tot ongewenste of oneerlijke resultaten.
Omdat AI geen begrip heeft van context, ethiek of waarden, is het belangrijk om systematisch te controleren welke patronen een model overneemt. Daarbij spelen menselijke keuzes een grote rol. Hoe data wordt verzameld, welke voorbeelden worden gebruikt en welke stappen worden gefilterd bepaalt welke patronen uiteindelijk ontstaan.
Hoe bias in AI ontstaat
Het ontstaat vaak tijdens het verzamelen en selecteren van data. Als bepaalde groepen minder vaak voorkomen in de trainingsdata, leert het model minder goed met die situaties omgaan.
Ook keuzes van ontwikkelaars spelen een rol. Welke data wordt gebruikt, hoe die wordt gefilterd en welke doelen worden gesteld, beïnvloeden het gedrag van het model.
Waarom bias in AI een probleem is
Het kan leiden tot ongelijke behandeling. Bijvoorbeeld bij sollicitaties, kredietbeoordelingen of gezichtsherkenning.
Daarom is het belangrijk om AI-systemen regelmatig te testen en te controleren. Door bewust om te gaan met data en modellen kun je bias verminderen, al zal het nooit volledig verdwijnen.
Verder leren
Wil je meer leren over de risico’s, verantwoordelijkheden en ethische keuzes rond vooroordelen in AI? Op mijn pagina AI & Ethiek leg ik uit hoe je bias herkent, waarom het ontstaat en wat je kunt doen om het te verminderen. Voor meer uitleg en voorbeelden over AI kun je terecht op mijn YouTube-kanaal De Wereld Van AI, of volg de gratis AI basiscursus om stap voor stap te leren hoe AI werkt.