AP: incassobureaus hebben onvoldoende zicht op risico's van AI-gebruik

In dit artikel:

Nederlandse incassobureaus gebruiken op grote schaal AI voor onder meer het inschatten van inningskansen, het aanvullen van debiteurdossiers, het herkennen van kwetsbaarheid en het analyseren van telefoongesprekken. Dat blijkt uit onderzoek van de Autoriteit Persoonsgegevens (AP) onder 29 bureaus. De toezichthouder publiceerde daarop aanbevelingen voor verantwoord AI-gebruik in de sector.

Volgens de AP hebben incassobureaus onvoldoende inzicht in de privacy- en juridische risico’s. Zo is niet altijd duidelijk welke persoonsgegevens worden verwerkt, of profilering en kwetsbaarheidsdetectie rechtmatig zijn en wanneer sprake is van geautomatiseerde besluitvorming met grote gevolgen voor debiteuren. Ook worden privacyverklaringen vaak niet actief verstrekt bij het eerste contact en hanteren organisaties soms een te beperkte definitie van persoonsgegevens.

De AP roept de branche op te investeren in bewustwording, zorgvuldig datagebruik, transparantie en risicobeheersing. Beslissingen over mensen met vaak al grote financiële problemen mogen volgens de toezichthouder nooit volledig aan een computer worden overgelaten, omdat AI fouten kan maken en betrokkenen moeten kunnen begrijpen hoe een beslissing tot stand komt.