Bedrijven moeten vanaf 2 augustus laten weten dat AI-systemen AI zijn

In dit artikel:

Vanaf 2 augustus moeten bedrijven en organisaties in Nederland en de EU duidelijk maken wanneer mensen met een chatbot of ander AI-systeem te maken hebben. Ook AI-gegenereerde content, zoals afbeeldingen, video’s en muziek, moet herkenbaar zijn, bijvoorbeeld met een digitale markering. Daarnaast geldt een meldplicht zodra AI wordt ingezet om emoties te herkennen of mensen te classificeren op basis van biometrische kenmerken: dat moet al bij het eerste contact worden gemeld.

De regels komen voort uit Europese transparantie-eisen en moeten misleiding, manipulatie en oplichting tegengaan, zegt de Europese Commissie. De Autoriteit Persoonsgegevens (AP) benadrukt dat AI steeds realistischer teksten, beelden, stemmen en gesprekken produceert, waardoor mensen sneller kunnen worden misleid of slachtoffer kunnen worden van nepnieuws, identiteitsfraude of fraude. Volgens de AP moet daarom altijd helder zijn wanneer iemand met AI communiceert, bijvoorbeeld bij een klantenservicechatbot of een digitale stem van een huisarts of gemeente.