Five Eyes-landen: gebruik AI-agents niet voor gevoelige taken

In dit artikel:

Overheidsdiensten uit de Five Eyes-groep — onder meer de Amerikaanse NSA en CISA en het Britse NCSC, samen met instanties uit Australië, Canada en Nieuw-Zeeland — hebben een nieuw advies gepubliceerd waarin ze waarschuwen voor het gebruik van zogeheten agentic AI voor gevoelige taken. Deze autonome AI‑agents worden steeds vaker ingezet binnen vitale infrastructuur en defensie, maar kunnen door ontwerp‑, configuratie‑ of architectuurproblemen, of door te ruime rechten, leiden tot productiviteitsverlies, verstoringen, datalekken en andere cybersecurity‑incidenten.

De diensten noemen meerdere concrete risico’s: AI‑agents kunnen te veel privileges krijgen, hun interne besluitvorming is vaak moeilijk te reconstrueren (waardoor verantwoordingsketens vervagen) en hun netwerkcommunicatie kan onveilige protocollen of zwakke authenticatie gebruiken, wat afluisteren en datalekken mogelijk maakt. Als respons adviseren ze ontwikkelaars, leveranciers en operators strengere securitymaatregelen: actieve monitoring, “human‑in‑the‑loop” bij kritieke beslissingen, het toepassen van het principe van minste rechten en het beperken van toegang tot gevoelige data en vitale systemen. Agentic AI zou volgens hen in de praktijk alleen geschikt moeten zijn voor laag‑risicovolle, niet‑gevoelige taken en altijd met security by design en incidentresponsplannen in het achterhoofd ingezet moeten worden.