AGI, superintelligentie, zelfverbeterende AI en alignment uitgelegd

Je hoort steeds vaker termen als AGI, superintelligentie, alignment en zelfverbeterende AI. Ze klinken technisch en soms behoorlijk futuristisch, maar ze gaan over een simpele vraag: wat gebeurt er als AI steeds krachtiger en zelfstandiger wordt?

In dit artikel leg ik de vier begrippen eenvoudig uit en vooral hoe ze met elkaar samenhangen. Dat is relevant, omdat ze steeds vaker opduiken in discussies over de toekomst van AI.

1. Wat is AGI?

AGI staat voor Artificial General Intelligence, in het Nederlands vaak kunstmatige algemene intelligentie genoemd.

De meeste AI-systemen van nu zijn goed in bepaalde taken, zoals schrijven, programmeren, analyseren of afbeeldingen maken. AGI zou veel breder zijn. Het idee is dat zo’n systeem op allerlei verschillende gebieden kan leren, redeneren en problemen oplossen op een niveau dat vergelijkbaar is met mensen.

Er bestaat alleen geen algemeen geaccepteerde definitie van wanneer iets precies AGI is. Ook is er geen universele test waarmee je kunt zeggen: vanaf vandaag hebben we AGI.

Wil je eerst begrijpen hoe huidige AI-systemen werken? Lees dan ook Hoe werkt AI? Uitleg in eenvoudige stappen.

2. Wat is superintelligentie?

Superintelligentie gaat nog een stap verder dan AGI. Daarmee wordt meestal een hypothetisch AI-systeem bedoeld dat mensen op vrijwel alle cognitieve gebieden ruimschoots overtreft.

Dus niet alleen sneller rekenen of meer informatie verwerken, maar bijvoorbeeld ook beter wetenschappelijk onderzoek doen, strategieën bedenken, technologie ontwikkelen en complexe problemen oplossen.

Belangrijk is dat superintelligentie op dit moment vooral een toekomstscenario is. Niemand weet of het daadwerkelijk ontstaat, wanneer dat zou gebeuren en hoe snel een mogelijke ontwikkeling van AGI naar superintelligentie zou verlopen.

3. Wat is zelfverbeterende AI?

Een belangrijk begrip in deze discussie is recursive self-improvement, oftewel recursieve zelfverbetering.

Het idee is dat AI steeds meer kan helpen bij het verbeteren van AI zelf. Denk aan het schrijven van betere code, het ontwerpen van nieuwe modellen, het uitvoeren van experimenten of het analyseren van resultaten.

Als een beter AI-systeem vervolgens nóg beter wordt in het ontwikkelen van nieuwe AI, kan theoretisch een versnellend proces ontstaan. Dit wordt soms een intelligence explosion genoemd.

Dat betekent niet dat zo’n explosieve ontwikkeling nu al bestaat. Wel gebruiken AI-onderzoekers steeds vaker AI bij programmeerwerk en onderzoek. Daarom is de vraag hoe ver zelfverbetering uiteindelijk kan gaan relevanter geworden.

Ik schreef eerder uitgebreider over dit onderwerp in Jacob Coxon waarschuwt voor zelfverbeterende AI, hoe reëel is het risico?.

4. Wat betekent alignment?

AI alignment gaat over de vraag hoe je ervoor zorgt dat een AI-systeem doet wat mensen daadwerkelijk bedoelen en dat zijn gedrag past binnen gewenste doelen, regels en waarden.

Bij eenvoudige systemen is dat al lastig. Een AI kan een opdracht letterlijk uitvoeren, maar toch tot een ongewenst resultaat komen. Hoe krachtiger en zelfstandiger een systeem wordt, hoe belangrijker die vraag wordt.

Alignment gaat daarom niet alleen over het voorkomen van extreme toekomstscenario’s. Het speelt nu al bij onderwerpen als menselijke controle, betrouwbaarheid, ongewenst gedrag en de manier waarop AI-doelen worden geformuleerd.

Wil je meer weten over dit begrip? Lees dan ook de uitleg in de AI-woordenlijst over alignment.

Hoe hangen deze begrippen samen?

De vier begrippen worden vaak in één discussie genoemd omdat ze een mogelijke ontwikkelingslijn beschrijven:

  1. AI-systemen worden steeds krachtiger en breder inzetbaar.
  2. Op een bepaald moment zou mogelijk AGI kunnen ontstaan.
  3. Zo’n systeem zou kunnen helpen bij het ontwikkelen van betere AI-systemen.
  4. Als dat proces sterk versnelt, zou theoretisch superintelligentie kunnen ontstaan.
  5. Hoe krachtiger en zelfstandiger AI wordt, hoe belangrijker alignment en menselijke controle worden.

Dit is geen voorspelling dat het zo zal gebeuren. Het is vooral een manier om te begrijpen waarom onderzoekers, AI-bedrijven en beleidsmakers deze termen steeds vaker gebruiken.

Wat moet je hiervan onthouden?

AGI, superintelligentie en zelfverbeterende AI zijn nog geen vaststaande volgende stappen. Er bestaat veel discussie over definities, haalbaarheid en tijdlijnen. Alignment is juist nu al relevant, omdat ook huidige AI-systemen ongewenst, onbetrouwbaar of anders dan bedoeld kunnen reageren.

Samen helpen deze begrippen om discussies over de toekomst van AI beter te begrijpen. Ze maken duidelijk wat AI nu al kan, welke ontwikkelingen mogelijk zijn en waarom menselijke controle en goede afstemming belangrijker worden naarmate AI krachtiger en zelfstandiger wordt.

Deel dit artikel:


Ontdek meer van De Wereld Van AI

Blijf op de hoogte van nieuwe AI-artikelen, direct in je mailbox.

Welkom!

De Wereld van AI is een Nederlandstalig kennisplatform dat kunstmatige intelligentie begrijpelijk en praktisch maakt.

Ontdek heldere uitleg over AI, machine learning en AI agents, leer hoe je AI praktisch gebruikt en lees hoe organisaties AI verantwoord kunnen inzetten. Met voorbeelden, verdiepende artikelen en handige downloads.

Nieuw met AI? Begin met mijn gratis Basiscursus AI en ontdek stap voor stap hoe kunstmatige intelligentie werkt.

Wil je verder kijken? Bekijk Alle Artikelen, ontdek de AI-Woordenlijst of kies een onderwerp via Hoofdthema’s over AI.

Liever kijken dan lezen?
Bezoek mijn YouTube-kanaal De Wereld van AI voor korte en toegankelijke video’s.

Logo van De Wereld van AI met een rode knop waarop “Subscribe” staat, als promotie voor het YouTube-kanaal

Praktische AI-uitleg in je LinkedIn-feed

Volg De Wereld van AI voor praktische voorbeelden, eigen tests en tips om AI-antwoorden kritisch te beoordelen.

AI-Tools (9) AI energieverbruik (1) AI en klimaat (1) AI in de zorg (1) Automatisering (7) AVG (5) ChatGPT (20) Claude (3) Datacenter (1) Data Science (4) Deep Learning (8) EU AI Act (5) Generatieve AI (16) Google Gemini (3) Machine Learning (24) Microsoft Copilot (3) Neurale Netwerken (10) Privacy (5) Taalmodellen (13)