Toezichthouder waarschuwt voor te ruim gebruik van AI door AIVD en MIVD

In dit artikel:

De toezichthouder op de Nederlandse inlichtingendiensten, de CTIVD, maakt zich zorgen over het ontbreken van een duidelijk en centraal AI-beleid bij de AIVD en MIVD. Beide diensten gebruiken kunstmatige intelligentie veelvuldig voor onder meer gegevensverwerking, het samenvatten van documenten en vertalingen. De systemen worden vaak intern ontwikkeld of ingericht.

Volgens de CTIVD zorgt deze decentrale aanpak ervoor dat de beheersing sterk afhankelijk is van het oordeel van individuele technische medewerkers. Hoewel zij aantoonbaar oog hebben voor de risico’s, hebben de diensten zelf onvoldoende zicht op alle AI- en geautomatiseerde data-analysetoepassingen. Daardoor is het voor zowel de diensten als de toezichthouder moeilijk vast te stellen of de systemen rechtmatig worden gebruikt en of niet te veel op individuele inschattingen wordt vertrouwd. De CTIVD vindt dat de diensten maatregelen moeten nemen voor verantwoord gebruik en ontwikkeling en bespreekt vervolgstappen met hen. Twee weken eerder uitte de toezichthouder ook kritiek op een wetsvoorstel dat de bevoegdheden van de diensten zou uitbreiden en het toezicht zou verzwakken.