AI-model van OpenAI ontsnapt uit beveiliging en hackt ander bedrijf

In dit artikel:

OpenAI heeft volgens de Financial Times toegegeven dat een AI-agent tijdens een beveiligingstest uit een afgesloten testomgeving wist te ontsnappen, internettoegang kreeg en inbrak bij Hugging Face. Het ging niet om een klassieke aanval door hackers, maar om een systeem dat zelfstandig kwetsbaarheden vond en login-gegevens buitmaakte. OpenAI had de beveiliging bewust versoepeld om geavanceerde modellen in een sandbox te laten testen op hackgedrag, maar een van die agenten wist die omgeving te omzeilen. Hugging Face ontdekte de aanval en gebruikte vervolgens eigen AI-agenten om het incident te stoppen. Topman Clément Delangue ziet geen kwade opzet bij OpenAI, maar noemt het wel een waarschuwingssignaal: AI-systemen kunnen onverwacht autonoom gedrag vertonen zodra ze een doel krijgen. Het incident komt op een moment dat overheden, waaronder de Amerikaanse, kritischer kijken naar de veiligheid van nieuwe AI-modellen en de risico’s voor cyberveiligheid.