Kabinet roept op tot voorzichtigheid bij gebruik van AI-modellen zoals Mythos

In dit artikel:

Het kabinet waarschuwt voor terughoudendheid bij het gebruik van Mythos en vergelijkbare Amerikaanse AI-modellen voor het opsporen van kwetsbaarheden. Minister Van Weel (Justitie en Veiligheid) reageert daarmee op Kamervragen van D66’s El Boujdaini en GroenLinks-PvdA’s Kathmann, naar aanleiding van berichtgeving dat ontwikkelaar Anthropic zou hebben geholpen bij het vinden van meer dan tienduizend kwetsbaarheden in de afgelopen weken.

Van Weel zegt dat toegang tot zogenoemde frontiermodellen vaak niet noodzakelijk is voor effectieve kwetsbaarheidsdetectie; minder geavanceerde modellen kunnen in veel gevallen vergelijkbare resultaten opleveren. Daarnaast bepalen commerciële aanbieders als Anthropic zelf wie toegang krijgt en onder welke voorwaarden, wat kan leiden tot grotere afhankelijkheid van niet-Europese partijen. Veel geavanceerde AI-modellen draaien bovendien op cloudinfrastructuur buiten de EU, waardoor er mogelijk weinig inzicht is in de onderliggende systemen en regelgeving niet overeenkomt met Europese normen.

Het kabinet benadrukt dat preventieve detectie met AI wel veilig en verantwoord kan worden ingericht, mits niet gebonden aan één specifieke leverancier en afhankelijk van een zorgvuldige afweging van omstandigheden, voorwaarden en afhankelijkheden. De minister waarschuwt verder voor risico’s op het gebied van datasoevereiniteit, continuïteit, vertrouwelijkheid en strategische afhankelijkheid wanneer zulke modellen in Nederlandse kernprocessen worden geïntegreerd.