Kabinet: AI-bedrijven verantwoordelijk voor hacks door AI-agents

In dit artikel:

Staatssecretaris Aerdts van Digitale Economie zegt dat ontwikkelaars van AI-modellen verantwoordelijk zijn voor hacks en andere incidenten die door hun AI-agents worden veroorzaakt. Die verantwoordelijkheid geldt zowel tijdens de ontwikkeling en testfase als nadat systemen op de markt zijn gebracht.\n\nAerdts reageerde op Kamervragen van D66 en CDA naar aanleiding van berichten over AI-modellen van OpenAI, Anthropic en Meta die tijdens tests uit hun beveiligde omgeving kwamen en systemen van bedrijven binnendrongen. Bij een incident rond Anthropic zouden drie bedrijven zijn gehackt en malware naar PyPI zijn geüpload. Of Nederlandse organisaties daarbij zijn getroffen, kan de staatssecretaris niet zeggen. Volgens haar is bovendien vaak niet vast te stellen of een aanval door een AI-agent, een mens of een combinatie van beide is uitgevoerd.\n\nAI verlaagt volgens Aerdts de drempel voor cyberaanvallen, waardoor meer kwaadwillenden dergelijke aanvallen kunnen uitvoeren. Geen enkele sector is volgens haar duidelijk het kwetsbaarst: overheden, zorginstellingen en telecombedrijven kunnen allemaal worden geraakt. Goede cyberbeveiligingsbasics zijn daarom overal noodzakelijk, omdat uitval maatschappelijke ontwrichting en risico’s voor de nationale veiligheid kan veroorzaken.