Onderzoeker hekelt Amerikaans exportverbod Anthropic na 'fix this code' prompt

In dit artikel:

Beveiligingsonderzoeker Katie Moussouris heeft fel uitgehaald tegen het recente exportverbod van de Amerikaanse overheid op Anthropic’s taalmodellen Fable 5 en Mythos 5. Zij stelt dat de maatregel gebaseerd is op een testrapport waarin externe onderzoekers het model vroegen kwetsbare code te analyseren en vervolgens — na een eerste weigering door Fable 5 — met de eenvoudige prompt "fix this code" en een aantal handmatige stappen test‑scripts en patchtests genereerden. Volgens Moussouris gebruikte het onderzoek zowel opensourcecode met bekende fouten als opzettelijk verzwakte code, en was er geen sprake van het omzeilen van beveiligingsmaatregelen (guardrail bypass).

Moussouris zegt dat zij, voor zover zij weet, de enige externe onderzoeker was met toegang tot het rapport dat de beslissing van de autoriteiten mede heeft gevormd. Ze waarschuwt dat het blokkeren van dit soort defensieve vragen de mogelijkheden van AI om kwetsbaarheden te vinden, te verhelpen en patches te testen aantast — en daarmee de cyberweerbaarheid schaadt zonder aanvallers effectief te ontmoedigen. Tegelijkertijd hebben vooraanstaande beveiligingsexperts, onder wie Bruce Schneier en Philip Zimmermann en oprichters van cybersecuritybedrijven, een open brief gestart waarin zij de Amerikaanse autoriteiten oproepen het exportverbod in te trekken.