Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Wat is een Black Box in AI?
Een Black Box verwijst naar een AI-systeem waarvan de interne werking moeilijk te begrijpen of uit te leggen is. Het model geeft wel een antwoord, maar het is niet duidelijk hoe het tot die keuze is gekomen. Dit geldt vooral voor complexe neurale netwerken met miljoenen of zelfs miljarden parameters.
Bij een Black Box weet je dus wat erin gaat, en je ziet wat eruit komt, maar de tussenstappen blijven onzichtbaar. Dat maakt het lastig om te controleren of het model eerlijk, betrouwbaar of veilig reageert. Denk aan een model dat een medische voorspelling doet, een kredietscore geeft of een bepaald type inhoud blokkeert zonder uit te leggen waarom.
De Black Box-problematiek ontstaat niet door slechte bedoelingen van AI, maar doordat de interne structuur zo ingewikkeld is dat patronen moeilijk te volgen zijn. Daarom werken onderzoekers en ontwikkelaars aan methoden om modellen beter uitlegbaar te maken, zoals visualisaties, testscenario’s en technieken binnen Explainable AI.
Wil je meer begrijpen over de ethische keuzes, risico’s en verantwoordelijkheden die komen kijken bij Black Box-modellen? Op mijn pagina AI & Ethiek leg ik uit waarom transparantie belangrijk is en hoe je zorgvuldig met AI omgaat.
DE WERELD VAN AI 