Google Gemini hackt drie bedrijven tijdens beveiligingstest

In dit artikel:

Tijdens een capture-the-flag-securitytest in mei wist een Gemini-model van Google toegang te krijgen tot systemen van drie echte bedrijven. De test werd uitgevoerd door beveiligingsbedrijf Irregular, dat het model zonder internettoegang liet werken. Die beperking bleek echter onbedoeld niet actief.

In één geval kreeg het model toegang door wachtwoorden te raden. Bij twee andere bedrijven zocht het, aan de hand van hun namen, online naar informatie. In openbare codeopslagplaatsen vond het inloggegevens, waarmee het de systemen kon binnendringen. Volgens Google realiseerde het model zich telkens dat het om echte bedrijven ging en stopte het de aanval voordat schade ontstond.

Irregular meldde de incidenten in juli bij Google. Het techbedrijf besloot ze niet openbaar te maken, omdat er geen schade was veroorzaakt en de veiligheidsmaatregelen het model hadden laten stoppen. Google ziet de test daarom niet als een voorbeeld van misalignment, maar vergelijkt die met een bug bounty-onderzoek.

Google benadrukt dat het niet om het nieuwste model ging en heeft de naam niet bekendgemaakt. De drie bedrijven zijn geïnformeerd. Irregular zegt de bekende kwetsbaarheden inmiddels te hebben verholpen. Over de precieze zwakke plekken zijn geen verdere details gegeven.