Jacob Coxon waarschuwt voor zelfverbeterende AI, hoe reëel is het risico?

AI-onderzoeker Jacob Coxon heeft Anthropic verlaten omdat hij zich grote zorgen maakt over de richting waarin geavanceerde AI zich ontwikkelt. Zijn waarschuwing kreeg internationaal veel aandacht, vooral omdat hij niet alleen spreekt over fouten van huidige chatbots, maar over een veel verdergaand scenario: AI-systemen die steeds meer van hun eigen ontwikkeling kunnen uitvoeren.

Dat roept een belangrijke vraag op. Hoe dicht zijn we werkelijk bij zelfverbeterende AI, en hoe serieus moeten we Coxons waarschuwing nemen?

Wie is Jacob Coxon?

Jacob Coxon werkte ongeveer drie jaar aan zogeheten pretraining van geavanceerde AI-modellen bij OpenAI en Anthropic. In september 2026 maakte hij bekend dat hij Anthropic verlaat en uit de frontier-AI-industrie stapt. Volgens berichtgeving van onder meer Associated Press en WIRED doet hij dat omdat hij vindt dat de ontwikkeling van steeds krachtigere AI-systemen te snel gaat ten opzichte van het vermogen om de risico’s ervan te beheersen.

Opvallend is dat Coxon Anthropic niet simpelweg beschuldigt van roekeloos gedrag. Hij ziet juist een groter, structureel probleem. AI-bedrijven concurreren met elkaar om steeds krachtigere modellen te bouwen. Zelfs een bedrijf dat veiligheid belangrijk vindt, kan daardoor onder druk komen te staan om sneller te ontwikkelen dan verstandig is.

Waar waarschuwt hij precies voor?

De kern van Coxons waarschuwing gaat over self-improving superintelligence, oftewel een zeer geavanceerde AI die steeds meer onderdelen van zijn eigen ontwikkeling kan uitvoeren.

Dat is iets anders dan een chatbot die een antwoord herschrijft nadat je om een betere versie vraagt. Het gaat om AI die bijvoorbeeld nieuwe experimenten bedenkt, programmeert, testresultaten beoordeelt, verbeteringen voorstelt en uiteindelijk mogelijk helpt om een krachtiger opvolgend AI-model te ontwikkelen.

Wanneer die cyclus grotendeels zonder mensen kan worden uitgevoerd, spreken onderzoekers vaak over recursive self-improvement, in het Nederlands meestal recursieve of zelfversterkende zelfverbetering genoemd.

Wat is zelfverbeterende AI?

Bij zelfverbeterende AI helpt een AI-systeem steeds actiever mee aan het maken van betere AI. In het meest vergaande scenario kan een systeem uiteindelijk een verbeterde opvolger ontwerpen en ontwikkelen, waarna die opvolger opnieuw een nog krachtiger systeem helpt bouwen.

Anthropic beschrijft deze ontwikkeling zelf in het artikel When AI builds itself. Het bedrijf zegt dat een groeiend deel van AI-ontwikkeling inmiddels door AI-systemen wordt ondersteund. Programmeeragents schrijven en testen code, voeren langere taken zelfstandig uit en kunnen delen van onderzoek uitvoeren.

Anthropic benadrukt tegelijkertijd twee belangrijke nuances: volledige recursive self-improvement bestaat nog niet en het is niet zeker dat deze ontwikkeling daadwerkelijk wordt bereikt.

Hoe dichtbij zijn we nu?

Een deel van de bouwstenen bestaat al. Moderne AI-systemen kunnen code schrijven, software testen, informatie analyseren en meerdere stappen achter elkaar uitvoeren. AI-agents kunnen bovendien steeds zelfstandiger met digitale hulpmiddelen werken.

OntwikkelingStatus
AI schrijft en verbetert codeBestaat
AI voert experimenten uitBestaat
AI ondersteunt AI-onderzoekBestaat
AI-agents voeren langduriger taken zelfstandig uitSteeds beter mogelijk
AI ontwikkelt volledig autonoom zijn eigen opvolgerNog niet bereikt
Een onbeheersbare intelligence explosionHypothetisch scenario

Anthropic geeft een interessant voorbeeld. In 2026 liet het Claude-agents zelfstandig aan een open onderzoeksprobleem rond AI-veiligheid werken. De agents konden hypothesen voorstellen, experimenten uitvoeren en resultaten vergelijken. Mensen bepaalden echter nog steeds welk probleem onderzocht moest worden en hoe de uitkomst beoordeeld werd.

Dat verschil is cruciaal. AI kan al veel uitvoerend onderzoekswerk versnellen, maar dat betekent nog niet dat AI zelfstandig de volledige wetenschappelijke en strategische cyclus beheerst die nodig is om steeds krachtigere modellen te bouwen.

Kan zelfverbeterende AI gevaarlijk worden?

In theorie wel. Wanneer een AI-systeem veel intelligenter en autonomer wordt, kunnen bestaande veiligheidsmaatregelen onvoldoende blijken. Het relevante probleem heet AI alignment: hoe zorg je ervoor dat het gedrag en de doelen van een krachtig AI-systeem blijven aansluiten bij wat mensen daadwerkelijk willen?

Bij een systeem dat zijn eigen opvolgers helpt bouwen, wordt dit probleem extra belangrijk. Een kleine fout, ongewenst gedrag of verkeerde doelstelling zou in theorie mee kunnen groeien met iedere nieuwe generatie.

Daarom waarschuwt Coxon voor een mogelijk verlies van menselijke controle. Andere onderzoekers delen delen van die zorg. Anthropic-onderzoeker Evan Hubinger zei volgens The Guardian dat hij de kans dat geavanceerde AI binnen tien jaar tot menselijke uitsterving leidt op meer dan 10 procent inschat.

Zo’n percentage moet echter voorzichtig worden geïnterpreteerd. Het is geen gemeten kans zoals bij een dobbelsteen of verzekeringsrisico. Het is een persoonlijke inschatting onder grote onzekerheid.

Waarom bouwen AI-bedrijven dan toch verder?

Een belangrijk onderdeel van Coxons argument is de concurrentie tussen AI-bedrijven. Stel dat een bedrijf besluit de ontwikkeling van zeer krachtige AI sterk af te remmen. Wanneer concurrenten dat niet doen, kan het bedrijf zijn technologische voorsprong verliezen.

Daardoor kan een situatie ontstaan waarin verschillende organisaties individueel denken dat doorgaan rationeel is, terwijl de gezamenlijke uitkomst juist meer risico oplevert. Dit probleem lijkt op een klassiek coördinatieprobleem: veiligheid vereist samenwerking tussen partijen die tegelijkertijd met elkaar concurreren.

Daarom gaat de discussie niet alleen over technologie. Ook AI-governance, regelgeving, toezicht, evaluaties en internationale afspraken worden belangrijker wanneer AI-systemen autonomer en krachtiger worden.

Hoe serieus moeten we Coxons waarschuwing nemen?

Het zou te ver gaan om uit Coxons uitspraken te concluderen dat AI de mensheid waarschijnlijk voor 2030 zal uitroeien. Daarvoor moeten verschillende onzekere ontwikkelingen tegelijk plaatsvinden.

  • AI moet aanzienlijk krachtiger worden dan huidige systemen.
  • AI moet veel meer delen van AI-onderzoek zelfstandig kunnen uitvoeren.
  • Die vooruitgang moet leiden tot snelle verdere zelfverbetering.
  • Menselijke veiligheidsmaatregelen en toezicht moeten tekortschieten.
  • Het systeem moet vervolgens gedrag vertonen dat daadwerkelijk catastrofale gevolgen veroorzaakt.

Over iedere stap bestaat onzekerheid. Toch maakt dat de onderliggende waarschuwing niet onbelangrijk. AI-systemen worden aantoonbaar beter in taken die onderdeel zijn van het ontwikkelen van nieuwe AI. Tegelijkertijd is nog niet bewezen dat toekomstige, veel krachtigere autonome systemen betrouwbaar beheerst kunnen worden.

Wat betekent dit voor organisaties?

Voor de meeste organisaties is een hypothetische superintelligentie niet het risico waarop vandaag beleid moet worden gebaseerd. De ontwikkeling ernaartoe maakt een aantal veel praktischere onderwerpen echter nu al relevanter.

  • Welke beslissingen mag een AI-agent zelfstandig nemen?
  • Welke systemen en gegevens mag een agent benaderen?
  • Wanneer blijft menselijke goedkeuring verplicht?
  • Hoe wordt gedrag van autonome agents gemonitord?
  • Wie is verantwoordelijk wanneer een agent onverwacht handelt?

Dat zijn vragen die passen binnen AI en besluitvorming en AI-governance. De discussie over zelfverbeterende AI lijkt daardoor misschien toekomstgericht, maar raakt aan keuzes die organisaties nu al moeten maken.

Conclusie

Coxons waarschuwing bewijst niet dat AI ons binnenkort zal uitroeien. Zijn tijdlijn en de kans op zo’n extreme uitkomst zijn te onzeker om als voorspelling te behandelen.

De ontwikkeling waar hij voor waarschuwt is wel relevant. AI-systemen nemen steeds meer taken over die nodig zijn om nieuwe AI te ontwikkelen. Volledige zelfverbeterende AI bestaat nog niet, maar grote AI-bedrijven onderzoeken en gebruiken al systemen die delen van dat proces versnellen.

De belangrijkste vraag is daarom niet of één spectaculaire voorspelling uitkomt. De belangrijkere vraag is of het vermogen om steeds autonomere AI-systemen te begrijpen, controleren en besturen snel genoeg meegroeit met hun capaciteiten.

Bronnen

Deel dit artikel:


Ontdek meer van De Wereld Van AI

Blijf op de hoogte van nieuwe AI-artikelen, direct in je mailbox.

Welkom!

De Wereld van AI is een Nederlandstalig kennisplatform dat kunstmatige intelligentie begrijpelijk en praktisch maakt.

Ontdek heldere uitleg over AI, machine learning en AI agents, leer hoe je AI praktisch gebruikt en lees hoe organisaties AI verantwoord kunnen inzetten. Met voorbeelden, verdiepende artikelen en handige downloads.

Nieuw met AI? Begin met mijn gratis Basiscursus AI en ontdek stap voor stap hoe kunstmatige intelligentie werkt.

Wil je verder kijken? Bekijk Alle Artikelen, ontdek de AI-Woordenlijst of kies een onderwerp via Hoofdthema’s over AI.

Liever kijken dan lezen?
Bezoek mijn YouTube-kanaal De Wereld van AI voor korte en toegankelijke video’s.

Logo van De Wereld van AI met een rode knop waarop “Subscribe” staat, als promotie voor het YouTube-kanaal

Praktische AI-uitleg in je LinkedIn-feed

Volg De Wereld van AI voor praktische voorbeelden, eigen tests en tips om AI-antwoorden kritisch te beoordelen.

AI-Tools (9) AI energieverbruik (1) AI en klimaat (1) AI in de zorg (1) Automatisering (7) AVG (5) ChatGPT (20) Claude (3) Datacenter (1) Data Science (4) Deep Learning (8) EU AI Act (5) Generatieve AI (16) Google Gemini (3) Machine Learning (24) Microsoft Copilot (3) Neurale Netwerken (10) Privacy (5) Taalmodellen (13)