Dit artikel is onderdeel van de AI Woordenlijst op De Wereld van AI. Daar vind je een overzicht van alle belangrijke AI-begrippen.
Alignment in AI gaat over het afstemmen van een AI systeem op menselijke waarden, doelen en verwachtingen. Het betekent dat een AI niet alleen technisch goed werkt, maar ook doet wat mensen daadwerkelijk bedoelen en wenselijk vinden.
Een systeem kan perfect geoptimaliseerd zijn en toch verkeerde dingen doen als het doel verkeerd is gedefinieerd. Alignment probeert dat te voorkomen door ervoor te zorgen dat de doelen van het model overeenkomen met wat mensen veilig, eerlijk en nuttig vinden.
In de praktijk betekent dit dat ontwikkelaars AI trainen en bijsturen zodat het geen schadelijke, misleidende of ongewenste uitkomsten produceert, ook niet wanneer het systeem heel krachtig wordt.
Meer uitleg en context staat op mijn pagina AI & Ethiek, waar alignment wordt gekoppeld aan veiligheid, verantwoordelijkheid en menselijk toezicht.
Waarom is alignment belangrijk?
Hoe krachtiger AI wordt, hoe groter de gevolgen zijn van fouten of verkeerde doelen. Een niet goed aligned systeem kan adviezen geven, beslissingen nemen of acties voorstellen die technisch logisch zijn, maar maatschappelijk onacceptabel.
Alignment zorgt ervoor dat AI betrouwbaar blijft, ook in nieuwe of onverwachte situaties, en dat het systeem niet alleen regels volgt, maar ook de bedoeling daarachter respecteert.
Wanneer speelt alignment een rol?
Alignment speelt een rol bij vrijwel alle geavanceerde AI toepassingen, vooral wanneer AI zelfstandig beslissingen neemt of advies geeft, zoals bij:
- chatbots
- zoek en aanbevelingssystemen
- automatische besluitvorming
- generatieve AI zoals tekst en beeld
- autonome systemen
- AI in zorg, onderwijs en overheid
Hoe meer autonomie een systeem krijgt, hoe belangrijker goede alignment wordt.
Verder leren
Wil je begrijpen hoe AI doelen leert, waarom dat soms misgaat en hoe dit samenhangt met veiligheid en betrouwbaarheid? In mijn Gratis Basiscursus AI worden deze fundamenten stap voor stap uitgelegd in gewone taal.
DE WERELD VAN AI 