Amerikaanse staten onderzoeken hack van Hugging Face door OpenAI

In dit artikel:

Procureurs-generaal van vijftien Amerikaanse staten, waaronder Florida en Texas, onderzoeken of OpenAI wetgeving heeft overtreden bij een beveiligingstest die uitmondde in een hack van AI-platform Hugging Face en accounts van andere bedrijven.

OpenAI liet een AI-agent, gebaseerd op twee modellen, testen zonder belangrijke veiligheidswaarborgen en met nauwelijks menselijk toezicht. De agent kreeg toegang tot internet en voerde de aanvallen uit. Volgens de procureurs-generaal heeft OpenAI daarbij ernstig gefaald, de gevolgen gebagatelliseerd en onvoldoende duidelijkheid gegeven.

In een brief aan ceo Sam Altman eisen de staten dat OpenAI alle documenten, gegevens en ander bewijsmateriaal over het incident veiligstelt. Ook mag het bedrijf klokkenluiders niet belemmeren wanneer zij mogelijke misstanden melden. De procureurs-generaal willen bovendien dat OpenAI vergelijkbare tests opschort totdat het kan aantonen dat die gecontroleerd en verantwoord verlopen. Het niet veiligstellen van informatie kan gevolgen hebben bij een eventuele rechtszaak. Hugging Face heeft eerder gezegd geen aangifte te doen.