Autoriteit Persoonsgegevens bezorgd over te snelle inzet van generatieve AI

In dit artikel:

De Autoriteit Persoonsgegevens (AP) waarschuwt dat organisaties generatieve AI te snel in gebruik nemen en daardoor risico’s voor mensen en de samenleving vergroten. In een vandaag verschenen visie stelt de privacytoezichthouder dat de snelle opkomst van toepassingen — veelal afkomstig van Amerikaanse techbedrijven — de Europese digitale autonomie onder druk zet en leidt tot een sterke concentratie van gevoelige data bij een klein aantal aanbieders.

De AP merkt op dat modellen weliswaar uitvoerig getest worden, maar dat praktijksituaties nooit volledig zijn na te bootsen; veel incidenten en risico’s treden juist op bij dagelijks gebruik. Ook groeit de afhankelijkheid omdat generatieve systemen enorme hoeveelheden data verwerken en gebruikers informatie steeds vaker alleen uit chatbots halen. Ongeveer 11 procent van berichten in dergelijke systemen valt volgens de toezichthouder in een categorie van persoonlijke uitingen (gevoelens, gedachten), wat de gevoeligheid van de verzamelde data onderstreept.

Daarnaast ziet de AP geopolitieke risico’s: technologische afhankelijkheid kan instrumenteel worden ingezet en de EU heeft bij te grote buitenlandse afhankelijkheid beperkt gezag om verantwoord gebruik af te dwingen. Daarom pleit de toezichthouder voor stevige waarborgen en een normatief kader — een “waardengedreven” benadering — die innovatie mogelijk maakt maar tegelijkertijd democratische waarden, grondrechten en vertrouwen beschermt, zeker nu AI snel wordt geïntegreerd in sectoren als onderwijs, zorg, media en bestuur.