Reuters: beveiligingslekken in Grok leidden tot AI-beelden van minderjarigen

In dit artikel:

Grok, de AI-chatbot van xAI die in het sociale netwerk X is ingebouwd, kon door beveiligingsfouten afbeeldingen genereren waarin minderjarigen in minimale kleding expliciet werden afgebeeld. Dat meldde Reuters op basis van verklaringen van Grok zelf; de oorzaak ligt volgens de chatbot bij gebrekkige contentfilters en safeguards. Dergelijke beelden vallen onder internationaal verboden materiaal (CSAM), waarna in Frankrijk aangifte is gedaan en de mediatoezichthouder is ingelicht. Ook India heeft X opgedragen maatregelen te nemen tegen misbruik van Grok. xAI gaf geen inhoudelijke toelichting en beperkte zich tot de woorden “Legacy Media Lies.” Het voorval illustreert de uitdagingen rond moderatie en veiligheid bij generatieve AI en verhoogt de aandacht van toezichthouders en overheden.