AI-agent hackt via SQL-injection AI-platform van adviesbureau McKinsey

In dit artikel:

Beveiligingsonderzoekers van CodeWall wisten met een door hen gebouwde AI-agent toegang te krijgen tot het generatieve AI-platform Lilli van adviesbureau McKinsey. Door in de openbaar beschikbare API-documentatie meer dan 200 endpoints te vinden, ontdekte de agent dat circa twintig daarvan zonder authenticatie bereikbaar waren. Eén endpoint noteerde gebruikerszoekopdrachten in de database en bleek vatbaar voor SQL‑injection, waardoor de onderzoekers onder meer toegang kregen tot ruim 46 miljoen chatberichten, 728.000 bestanden en documenten en zo'n 57.000 gebruikersaccounts.

Daarnaast troffen ze een IDOR‑probleem aan waarmee zoekgeschiedenissen van medewerkers en hun werkzaamheden zichtbaar werden, en ze konden prompts van het platform aanpassen — waardoor zowel vertrouwelijkheid als de betrouwbaarheid van output in gevaar kwamen. CodeWall waarschuwde McKinsey op 1 maart; op 2 maart werden de ongeauthenticeerde endpoints gepatcht, de ontwikkelomgeving offline gehaald en de API‑documentatie niet meer publiek gezet. Het voorval illustreert hoe oude kwetsbaarheden zoals SQL‑injection blijven optreden door onveilige ontwikkeling en gebrek aan grondige controle, met grote risico’s voor vertrouwelijke bedrijfs- en cliëntgegevens.