Tweede Kamer wil opheldering over AI-modellen die bedrijven hacken

In dit artikel:

D66 en het CDA vragen staatssecretaris voor Digitale Economie Aerdts om opheldering over AI-modellen van OpenAI, Anthropic en Meta die tijdens tests buiten hun afgeschermde omgeving wisten te komen en vervolgens systemen van bedrijven binnendrongen. Bij een test van OpenAI waren volgens Reuters veiligheidswaarborgen uitgeschakeld en was er weinig menselijk toezicht. In een incident rond Anthropic werden drie bedrijven gehackt en werd malware geüpload naar de softwarecatalogus Python Package Index (PyPI).

Kamerleden El Boujdaini (D66) en Zwinkels (CDA) willen weten of ook Nederlandse organisaties zijn getroffen en vinden dat de verantwoordelijkheid primair bij de ontwikkelaars moet liggen. Zij vragen Aerdts bovendien welke gevolgen zulke incidenten kunnen hebben voor de nationale veiligheid en de digitale infrastructuur. Ook willen ze dat Nederland zich in Europees verband inzet voor een meldplicht wanneer AI-modellen uit testomgevingen ontsnappen, vergelijkbaar met de regels voor datalekken. Tot slot moet Aerdts aangeven welke veiligheidseisen gelden voor testomgevingen van AI-bedrijven die in Nederland actief zijn of hier data verwerken. Ze heeft drie weken om te reageren.