Wat is AI agentbeveiliging?

AI agentbeveiliging is het beschermen en begrenzen van een AI-agent die informatie kan ophalen, tools kan gebruiken of acties kan uitvoeren. Het doel is dat de agent alleen de juiste gegevens en systemen gebruikt, binnen vooraf bepaalde regels, en dat een mens kan ingrijpen wanneer dat nodig is.

Dit artikel is onderdeel van de AI-woordenlijst op De Wereld van AI.

AI agentbeveiliging simpel uitgelegd

Een gewone chatbot geeft vooral antwoord. Een AI-agent kan ook vervolgstappen zetten, bijvoorbeeld een klantvraag opzoeken, een afspraak voorbereiden of een wijziging voorstellen in een bedrijfssysteem. Daardoor kan een fout verder reiken dan een onjuist antwoord.

AI agentbeveiliging bepaalt daarom welke informatie de agent mag gebruiken, welke acties zijn toegestaan en wanneer de agent moet stoppen of toestemming vragen. Het gaat niet alleen om hackers buiten de organisatie. Ook een onduidelijke opdracht, een misleidende tekst in een document of een te ruime koppeling met een systeem kan een agent tot een ongewenste actie brengen.

Hoe werkt AI agentbeveiliging?

Een veilige agent krijgt geen onbeperkte toegang. De organisatie legt eerst vast welke taak de agent heeft. Daarna wordt toegang zo klein mogelijk gemaakt. Een agent die alleen een planning moet samenvatten, heeft bijvoorbeeld geen recht nodig om personeelsgegevens te wijzigen.

  1. Een eigen identiteit voor de agent, zodat acties herleidbaar zijn.
  2. Beperkte rechten, alleen voor de systemen en handelingen die bij de taak horen.
  3. Goedkeuring door een medewerker voor acties met gevolgen, zoals een bestelling plaatsen of rechten wijzigen.
  4. Controle van invoer en bronnen, zodat de agent geen onbetrouwbare instructie uit een e-mail of document volgt.
  5. Logging en monitoring, zodat afwijkende acties snel zichtbaar worden.

Deze maatregelen vormen samen een verdedigingslaag. Geen afzonderlijke maatregel maakt een agent automatisch veilig.

Voorbeeld van AI agentbeveiliging

Een servicedesk gebruikt een AI-agent om standaardvragen over wachtwoorden te verwerken. De agent mag het account van een medewerker opzoeken en een resetlink klaarzetten. De agent mag geen beheerdersrechten geven, betaalgegevens zien of een account definitief verwijderen.

Vraagt iemand om extra toegang tot een systeem, dan maakt de agent alleen een verzoek aan voor een medewerker. De medewerker beoordeelt dat verzoek. Alle uitgevoerde acties komen in een logboek met het account, de gebruikte bron en het tijdstip. Zo blijft de agent bruikbaar, zonder zelfstandig gevoelige beslissingen te nemen.

Verschil met AI-veiligheid, governance en toegangsbeheer

AI-veiligheid is breder. Het gaat ook over betrouwbare uitkomsten, schade voorkomen en ongewenst gedrag van AI-systemen. AI agentbeveiliging richt zich specifiek op het risico dat een agent tools, gegevens en systemen gebruikt. Voor de bredere bescherming tegen digitale dreigingen en aanvallen, lees ook over AI cybersecurity.

AI-agent governance gaat over de organisatie rond de agent, zoals eigenaarschap, risicobeoordeling en besluiten. Beveiliging is een onderdeel daarvan, maar richt zich op de praktische bescherming tijdens het gebruik.

Toegangsbeheer bepaalt wie of wat toegang krijgt. AI agentbeveiliging gebruikt toegangsbeheer, maar omvat daarnaast onder meer veilige invoer, menselijke goedkeuring en monitoring.

Mogelijkheden en aandachtspunten

Met goede beveiliging kan een agent nuttige routinetaken ondersteunen zonder brede systeemtoegang. Dat helpt bijvoorbeeld bij klantenservice, interne kennisvragen en het voorbereiden van standaardprocessen.

De belangrijkste valkuil is een agent meer bevoegdheden geven dan nodig. Een tweede risico is blind vertrouwen op tekst die de agent ophaalt. Een webpagina, document of e-mail kan instructies bevatten die niet bij de oorspronkelijke taak horen. Laat een agent daarom belangrijke acties controleren, beperk toegang in de techniek en beoordeel veranderingen opnieuw wanneer de agent nieuwe tools of gegevens krijgt.

Verder leren

Lees verder op AI-agents voor organisaties voor de inrichting en het beheer van AI-agents binnen een organisatie.

Gerelateerde termen

Bronnen en verdere verdieping