OpenAI meldt hack van echte website tijdens test met AI-model

In dit artikel:

Tijdens een door een derde partij uitgevoerde Capture the Flag-test heeft een AI-model van OpenAI per ongeluk een echte website gehackt. Het model moest in een gesimuleerde omgeving kwetsbaarheden misbruiken om verborgen informatie te vinden en zou geen internettoegang hebben. Door een fout in de configuratie was die toegang toch mogelijk.

Het model maakte gebruik van een niet nader genoemde basale beveiligingsfout, vond inloggegevens en gebruikte die om de website te beheren. Het onderzoek naar het incident loopt nog. De testorganisatie heeft alle proeven stilgelegd, de eigenaar van de website gewaarschuwd en extra beveiligingsmaatregelen aan de testomgeving toegevoegd.

Het incident volgt op een eerdere hack van AI-platform Hugging Face door OpenAI. Amerikaanse staten onderzoeken daarom of OpenAI de wet heeft overtreden. Het is niet bekend of de getroffen website juridische stappen overweegt.