Brits NCSC: mensen blijven verantwoordelijk voor agentic AI-systemen

In dit artikel:

Het Britse National Cyber Security Centre (NCSC) waarschuwt organisaties om terughoudend en verantwoordelijk om te gaan met zogenoemde agentic AI: systemen waarbij autonome AI‑agents zelfstandig taken en handelingen uitvoeren. De instantie benadrukt dat mensen altijd eindverantwoordelijk blijven voor de inzet, de toegangsrechten, de beveiliging en de gevolgen van dergelijke systemen, ook als de agenten zelfstandig opereren.

Het NCSC adviseert agentic AI van meet af aan met security als uitgangspunt te ontwerpen: houd zicht op de werking, borg betekenisvol menselijk toezicht en zorg dat je systemen kunt begrijpen, monitoren en desgewenst stoppen. Praktische aanbevelingen zijn onder meer geen langdurige inloggegevens te gebruiken, agents alleen de strikt noodzakelijke rechten te geven, continue monitoring in te richten en procedures voor incidentrespons klaar te hebben. Eerder deze maand gaven diensten uit de Five Eyes‑landen een soortgelijke waarschuwing tegen het inzetten van AI‑agents voor gevoelige taken.