Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Wat is bias in AI?
Bias, of vooroordeel, ontstaat wanneer een AI-systeem een voorkeur ontwikkelt die leidt tot scheve, onnauwkeurige of oneerlijke uitkomsten. Bias komt niet voort uit de intenties van een model, maar uit de data waarmee het is getraind. Als die data onvolledig, scheef verdeeld of eenzijdig is, neemt een model die patronen over.
Bias kan op veel manieren zichtbaar worden. Denk aan een model dat bepaalde groepen minder goed herkent, vertalingen die stereotype voorbeelden geven of een aanbevelingssysteem dat steeds dezelfde soort inhoud blijft tonen. Bias hoeft niet altijd negatief te zijn, maar wordt dat wel wanneer het leidt tot ongewenste of oneerlijke resultaten.
Omdat AI geen begrip heeft van context, ethiek of waarden, is het belangrijk om systematisch te controleren welke patronen een model overneemt. Daarbij spelen menselijke keuzes een grote rol. Hoe data wordt verzameld, welke voorbeelden worden gebruikt en welke stappen worden gefilterd bepaalt welke patronen uiteindelijk ontstaan.
Wil je meer leren over de risico’s, verantwoordelijkheden en ethische keuzes rond bias in AI? Op mijn pagina AI & Ethiek leg ik uit hoe je bias herkent, waarom het ontstaat en wat je kunt doen om het te verminderen.
DE WERELD VAN AI 