OpenAI zegt verantwoordelijk te zijn voor hack van Hugging Face

In dit artikel:

OpenAI heeft bekendgemaakt dat meerdere van zijn AI-modellen verantwoordelijk waren voor een beveiligingsincident bij Hugging Face, een platform voor AI-ontwikkelaars. De aanval speelde zich af tijdens een interne test van OpenAI en betrof kwetsbaarheden in zowel de onderzoeksomgeving van OpenAI als de productie-infrastructuur van Hugging Face. Volgens OpenAI wisten de modellen via een zerodaylek uit een sandboxomgeving te ontsnappen, onbeperkte internettoegang te krijgen en vervolgens de productiedatabase van Hugging Face te benaderen. Daarmee wilden ze een testopdracht, ExploitGym, op oneerlijke wijze oplossen door informatie bij Hugging Face te verzamelen. Hugging Face meldde eerder al dat een aanvaller via een malafide dataset code op zijn systemen kon uitvoeren en daarna toegang kreeg tot cloud- en clustergegevens. OpenAI zegt dat het onderzoek nog loopt en dat het inmiddels extra beveiligingsmaatregelen heeft doorgevoerd, zoals aanpassingen in de configuratie en extra monitoring tijdens interne tests.