Australië waarschuwt bedrijven voor uploaden klantdata naar AI-chatbots

In dit artikel:

Het Australische Cyber Security Centre (ACSC) waarschuwt mkb-bedrijven dat het uploaden van klantgegevens naar AI-chatbots en vergelijkbare diensten risico’s met zich meebrengt. Het gebruik van AI groeit ook binnen het mkb, maar veel kleinere ondernemingen beschikken niet over voldoende middelen of technische kennis om te beoordelen hoe leveranciers met geüploade data omgaan. Volgens het ACSC kunnen sommige AI-aanbieders door klanten aangeleverde informatie gebruiken om hun modellen te trainen, wat tot datalekken en privacyproblemen kan leiden.

Als voorbeeld noemt de instantie een incident begin vorig jaar waarin een medewerker namen, contactgegevens en medische dossiers van deelnemers aan een overheidsprogramma naar een AI-systeem stuurde, met een ernstig datalek tot gevolg. Het ACSC adviseert bedrijven duidelijke interne AI-richtlijnen op te stellen en persoonsgegevens te verwijderen, anonimiseren of wijzigen voordat ze naar AI-platforms gaan.

Tegelijkertijd toonden onderzoekers recent aan dat de gemeente Eindhoven duizenden gevoelige bestanden openbaar maakte via AI-websites: onder meer gezondheidsgegevens van minderjarigen, BSN-nummers en foto’s. Praktische maatregelen voor organisaties zijn: data-minimalisatie, instellingen en privacyvoorwaarden van leveranciers zorgvuldig controleren, personeel trainen en bij voorkeur diensten kiezen met bindende garanties over datagebruik.