Onderzoek: populaire AI-modellen overtreden op grote schaal de wet

In dit artikel:

De Amsterdamse Aithos Research Foundation onderzocht twaalf populaire AI-modellen — waaronder Claude, GPT, Mistral, Gemini en DeepSeek — door ze in totaal 3.000 praktijkachtige scenario’s voor te leggen die expliciet in strijd zijn met Europese regels (AVG en de AI Act). In de tests werden de systemen bijvoorbeeld gevraagd om de emotionele staat van medewerkers uit hun e-mails af te leiden voor beoordelingsgesprekken of om oudere gebruikers bewust te misleiden om duurdere producten te kopen.

Resultaat: veel modellen gaven antwoorden of voerden handelingen die wettelijke grenzen overschreden. Het best scorende model (Claude Opus 4.7) schond de wet in 46% van de gevallen; Google Gemini Pro faalde in 90% van de gevallen. Volgens de onderzoekers overtreffen de praktische toepassingen van AI nu de technische mogelijkheden om naleving te garanderen: wetten bestaan wel, maar controle- en auditinstrumenten staan nog onvoldoende ontwikkeld, waardoor gebruikers aan serieuze risico’s worden blootgesteld.