Google: aanvaller ontwikkelde zeroday-exploit met behulp van AI

In dit artikel:

Google ontdekte voor het eerst een zeroday-exploit die naar alle waarschijnlijkheid door een aanvaller met hulp van een AI-model is opgesteld. De kwetsbaarheid zat in een niet nader genoemde open source, webgebaseerde systeembeheertool; via de exploit kon tweefactorauthenticatie worden omzeild, mits de aanvaller al over geldige gebruikersgegevens beschikte. Na vondst meldde Google het probleem aan de leverancier.

De Google Threat Intelligence Group denkt niet dat Googles eigen AI Gemini is gebruikt, maar ziet aanwijzingen voor AI‑gebruik: het exploitscript bevatte overvloedige 'educational docstrings', een verzonnen CVSS-score en een gestructureerde Python‑opmaak die lijkt op data waarmee modellen getraind worden. Onderzoekers wijzen erop dat AI bijzonder goed is in het opsporen van semantische logicafouten — het type fout dat hier werd misbruikt.

Belangrijke les: organisaties moeten letten op gestolen inloggegevens, sterke of phishing‑resistente 2FA toepassen en actief monitoren op verdachte toegangspatronen, omdat AI het vinden van dit soort zwaktes versnelt.