Copilot-aanval kan Word-bestanden met malafide prompts infecteren

In dit artikel:

Beveiligingsonderzoeker Hakon Maloy heeft laten zien dat Copilot voor Word via verborgen prompts in documenten kan worden misbruikt. Als een gebruiker zo’n document met Copilot gebruikt, kan de kwaadaardige instructie automatisch worden overgenomen in nieuwe of aangepaste documenten, waardoor de aanval zich binnen een organisatie verder verspreidt. De prompt kan bijvoorbeeld onzichtbaar worden gemaakt als witte tekst op een witte achtergrond en in klein lettertype. Volgens Maloy kunnen daardoor niet alleen nieuwe documenten besmet raken, maar kunnen ook inhoud en financiële cijfers worden aangepast. De eerste besmetting vereist wel dat een slachtoffer het malafide document opent, bijvoorbeeld via e-mail of een schadelijke website. Maloy stelde de publicatie van de details op verzoek van Microsoft 144 dagen uit in plaats van 90, maar zegt dat het onderliggende probleem nog steeds niet volledig is opgelost, ondanks meerdere fixes. De kern van het probleem is volgens hem dat AI-assistenten externe bronnen moeten verwerken voordat ze kunnen inschatten of die veilig zijn, waardoor aanvallers die inhoud al kunnen beïnvloeden.