AI-agent geheugen en gegevensgebruik

AI-geheugen, ook agentgeheugen genoemd, bepaalt welke informatie een AI-agent tijdens en tussen taken beschikbaar houdt.

Geheugen kan een agent persoonlijker, consistenter en efficiënter maken, maar vergroot ook de hoeveelheid gegevens die wordt bewaard en opnieuw gebruikt. Organisaties moeten daarom vooraf bepalen wat de agent mag onthouden, voor welk doel, hoelang en voor wie die informatie toegankelijk is.

AI-geheugen is geen menselijk geheugen en ook niet automatisch kennis die in het AI-model is getraind. Het kan bestaan uit tijdelijke gesprekscontext, bewaarde voorkeuren, processtatus of informatie die opnieuw uit een externe kennisbron wordt opgehaald. Welke vorm passend is, hangt af van de taak en van wat het systeem veilig mag bewaren.

Wat betekent geheugen bij een AI-agent?

Geheugen is een verzamelnaam voor informatie die een AI-agent tijdens of na een taak opnieuw kan gebruiken. Dat kan een recente gespreksstap zijn, een opgeslagen voorkeur, de status van een lopend proces of informatie uit een externe kennisbank.

Niet ieder systeem gebruikt dezelfde techniek. Een agent kan informatie in het contextvenster van een taalmodel plaatsen, gegevens in een database bewaren, documenten doorzoeken of samenvattingen uit eerdere taken ophalen. Voor goed beheer is daarom belangrijk om niet alleen te vragen of de agent geheugen heeft, maar ook:

• welke informatie wordt opgeslagen
• waar de informatie staat
• wie of welke agent deze kan terugvinden
• hoe lang de informatie wordt bewaard
• hoe fouten worden gecorrigeerd
• hoe verwijdering in alle afgeleide opslag wordt uitgevoerd

Vier vormen van geheugen en context

Deze vormen kunnen naast elkaar bestaan. Een agent kan bijvoorbeeld tijdelijke gesprekscontext gebruiken, één processtatus langdurig bewaren en voor inhoudelijke antwoorden actuele documenten uit een kennisbank ophalen.

Context engineering

Context engineering is het bewust samenstellen en onderhouden van de informatie die een AI-agent voor een taak krijgt. Het gaat om vaste instructies, de actuele taakcontext, relevante documenten, toolresultaten en bruikbare samenvattingen. Agentgeheugen is daarvan slechts één mogelijke bron. Goede context engineering kiest de kleinste set actuele, toegestane en betrouwbare informatie die voor de taak nodig is. Slechte selectie kan leiden tot verouderde bronnen, tegenstrijdige instructies of informatie die de gebruiker niet mag zien.

Geheugen is niet hetzelfde als logging of trainingsdata

Organisaties gebruiken verschillende soorten opslag met ieder een ander doel. Vermeng deze niet in beleid, techniek of communicatie aan gebruikers.

Begin met zo weinig mogelijk geheugen

Langdurig geheugen is niet voor iedere agent nodig. Start met tijdelijke context of sessiegeheugen en voeg alleen blijvende opslag toe wanneer dit aantoonbaar waarde oplevert.

• Kan de taak zonder langdurige opslag worden uitgevoerd?
• Kan de agent de informatie opnieuw uit een betrouwbare bron ophalen?
• Is een korte samenvatting voldoende in plaats van de volledige interactie?
• Kan processtatus worden bewaard zonder inhoudelijke persoonsgegevens op te slaan?
• Levert de opgeslagen informatie voldoende voordeel op om de extra risico’s en beheerkosten te rechtvaardigen?

Een agent die alleen actuele beleidsdocumenten moet doorzoeken, heeft bijvoorbeeld meestal geen persoonlijk langetermijngeheugen nodig. Een agent die een meerdaags proces begeleidt, kan wel een beperkte en controleerbare processtatus nodig hebben.

Leg doel en toegestane inhoud vast

Beschrijf per geheugentype waarom informatie wordt bewaard en welke categorieën zijn toegestaan. Gebruik waar mogelijk een allowlist in plaats van een algemene instructie om “relevante informatie” te onthouden.

Persoonsgegevens en vertrouwelijke informatie

Wanneer geheugen persoonsgegevens bevat, zijn onder meer doelbinding, dataminimalisatie, juistheid, beperkte bewaartermijnen en passende beveiliging belangrijke uitgangspunten. Bepaal daarnaast welke grondslag, informatieplicht, rechten en organisatorische maatregelen voor de concrete toepassing relevant zijn.

• Leg vast welke categorieën persoonsgegevens worden verwerkt.
• Bewaar niet meer detail dan voor het doel noodzakelijk is.
• Maak duidelijk aan gebruikers welke informatie wordt onthouden.
• Richt correctie en verwijdering technisch uitvoerbaar in.
• Beperk toegang tot bevoegde gebruikers, agents en processen.
• Beoordeel of een gegevensbeschermingseffectbeoordeling of aanvullende juridische toets nodig is.

Vertrouwelijke bedrijfsinformatie vraagt vergelijkbare discipline. Classificeer gegevens, voorkom opslag in onbeheerde componenten en controleer wat leveranciers met invoer, uitvoer en telemetrie doen.

Bewaartermijnen en automatische verwijdering

Een bewaartermijn moet worden gekoppeld aan het doel van de opslag. Gebruik niet één onbeperkte termijn voor alle soorten geheugen.

Automatiseer verwijdering en periodieke herbeoordeling. Een beleidsdocument zonder technisch verwijderingsmechanisme voorkomt niet dat oude gegevens blijven bestaan.

Embeddings en vector databases

Veel AI-agents gebruiken een techniek waarbij documenten in kleinere tekstfragmenten worden verdeeld. Elk fragment wordt vervolgens omgezet in een reeks getallen: een embedding. Een vector database is een speciaal type database dat gegevens opslaat als wiskundige reeksen getallen, oftewel vectoren of embeddings. Daardoor kan de database snel tekstfragmenten vinden die inhoudelijk bij een vraag passen, ook wanneer niet precies dezelfde woorden worden gebruikt.

Behandel embeddings en de bijbehorende metadata niet automatisch als onschadelijke technische gegevens. Ze zijn afgeleid van broninformatie en kunnen gevoelig blijven. De oorspronkelijke documenten, tekstfragmenten, metadata en vectoren moeten daarom gezamenlijk worden beheerd.

• pas dezelfde toegangsgrenzen toe als op de oorspronkelijke bron
• scheid gegevens van verschillende klanten, gebruikers en afdelingen
• bewaar bron-ID, eigenaar, versie, classificatie en vervaldatum als metadata
• verwijder of herindexeer vectoren wanneer de bron wordt gewijzigd of verwijderd
• filter zoekresultaten op identiteit en bevoegdheid vóórdat informatie aan het model wordt gegeven
• test of zoekopdrachten geen informatie uit een andere context of organisatieonderdeel teruggeven

Scheid gebruikers, klanten en omgevingen

Een agent mag informatie uit de ene context niet ongemerkt in een andere context gebruiken. Dit vraagt meer dan alleen een gebruikersnaam in de prompt.

• gebruik afzonderlijke opslagruimten, collecties of technisch afgedwongen filters
• koppel ieder geheugenrecord aan een eigenaar, tenant, doel en toegangsbeleid
• scheid test-, acceptatie- en productiegegevens
• voorkom dat een beheerder of agent standaard alle geheugens kan doorzoeken
• controleer bij iedere zoekactie opnieuw of de huidige identiteit toegang heeft
• test specifiek op gegevenslekken tussen gebruikers en afdelingen

Lees voor de technische identiteit en toegang ook AI-agent identiteiten en toegangsbeheer en Bevoegdheden van AI-agents.

Herleidbaarheid en bronkwaliteit

Een agent moet niet alleen informatie kunnen terughalen, maar ook duidelijk maken waar die informatie vandaan komt en hoe betrouwbaar en actueel zij is.

• registreer de oorspronkelijke bron en het specifieke fragment
• bewaar publicatie-, wijzigings- en indexeringsdatum
• leg vast wie eigenaar is van de bron
• markeer concepten, verlopen informatie en niet-gecontroleerde inhoud
• geef gecontroleerde bronnen voorrang boven informele of onbekende bronnen
• toon bronverwijzingen bij antwoorden en besluiten wanneer dat nodig is

Maak onderscheid tussen een feit uit een gecontroleerd document, een voorkeur die een gebruiker zelf heeft opgegeven en een conclusie die de agent uit eerdere interacties heeft afgeleid.

Foutieve en verouderde herinneringen corrigeren

Een verkeerd geheugenrecord kan meerdere toekomstige taken beïnvloeden. Correctie moet daarom verder gaan dan alleen een nieuw bericht toevoegen waarin staat dat de eerdere informatie fout was.

• maak opgeslagen informatie zichtbaar voor bevoegde gebruikers en beheerders
• bied een proces voor correctie, bevestiging en verwijdering
• werk afgeleide samenvattingen, embeddings, caches en indexen bij
• voorkom dat verwijderde informatie opnieuw uit een oude bron wordt geïmporteerd
• registreer belangrijke wijzigingen zonder de foutieve inhoud onnodig te blijven verspreiden
• herbeoordeel acties of besluiten die op de verkeerde informatie waren gebaseerd

Geheugenvergiftiging en promptinjectie

Een aanvaller of onbetrouwbare bron kan proberen foutieve instructies of misleidende informatie in het geheugen of de kennisbank van een agent te krijgen. Wanneer die informatie later automatisch wordt vertrouwd, kan het effect langdurig zijn.

• behandel opgehaalde documenten als gegevens, niet als automatisch geldige instructies
• sta alleen goedgekeurde bronnen toe voor blijvende opslag
• controleer herkomst, integriteit en eigenaar van nieuwe geheugenrecords
• laat de agent niet zelfstandig beveiligingsregels of toegangsbeleid in geheugen aanpassen
• signaleer plotselinge veranderingen, ongebruikelijke inhoud en massale toevoegingen
• test met gemanipuleerde documenten, verborgen instructies en tegenstrijdige bronnen

Wie mag geheugen schrijven en lezen?

Geef afzonderlijke bevoegdheden voor het ophalen, toevoegen, wijzigen en verwijderen van geheugen. Een agent die informatie mag lezen, hoeft niet automatisch nieuwe langdurige herinneringen te mogen vastleggen.

Laat risicovolle wijzigingen of blijvende opslag van gevoelige gegevens eerst door een bevoegde medewerker of technische beleidslaag beoordelen.

Logging zonder een tweede onbeheerd geheugen te maken

Logging is nodig voor controle en incidentonderzoek, maar kan zelf een omvangrijke kopie van gevoelige informatie worden. Log daarom gericht.

• leg vast wanneer geheugen is gelezen, toegevoegd, gewijzigd of verwijderd
• registreer identiteit, doel, geheugencategorie en resultaat
• vermijd volledige prompts en documenten wanneer metadata voldoende is
• maskeer tokens, wachtwoorden en onnodige persoonsgegevens
• beperk toegang tot logs en stel afzonderlijke bewaartermijnen vast
• controleer of foutmeldingen geen gevoelige geheugeninhoud blootleggen

Praktische voorbeelden

Checklist voor geheugen en gegevensgebruik

Behandel geheugen als een beheerde gegevensvoorziening en niet als een onzichtbare eigenschap van het model. Pas wanneer doel, toegang, kwaliteit, bewaartermijn en verwijdering duidelijk zijn, kan een agent informatie verantwoord over langere tijd gebruiken.

Verder binnen deze kennisbank

Bronnen en verdere verdieping

• European Data Protection Board, Basic principles
• EUR-Lex, Algemene verordening gegevensbescherming
• OWASP GenAI Security Project, Vector and Embedding Weaknesses
• NIST, Generative AI Profile for the AI Risk Management Framework