Signal-voorzitter: AI is niet je vriend, het is geen wezen met bewustzijn

In dit artikel:

Meredith Whittaker, voorzitter van de Signal Foundation, waarschuwt in een interview met Bloomberg dat mensen AI-chatbots als ChatGPT niet als een vriend of bewust wezen moeten zien. Volgens haar wekken zulke systemen soms de indruk van empathie of menselijk contact, maar blijven het diensten waarvan de aanbieder uiteindelijk bepaalt wat er met gebruikersdata gebeurt, ook als gesprekken verwijderd lijken of niet gedeeld mogen worden.

Haar grootste zorg ligt bij de opkomst van zogeheten AI-agents: systemen die zelfstandig namens gebruikers taken uitvoeren. Daarvoor hebben ze toegang nodig tot gevoelige informatie zoals wachtwoorden, betaalgegevens en berichtenapps. In het geval van Signal zou zo’n koppeling volgens Whittaker neerkomen op een achterdeur, omdat de privacy van de app dan wordt doorbroken. Ze vreest dat Apple, Google of Microsoft dit soort functies straks in hun besturingssystemen inbouwen, waardoor hun macht over Android, Windows en iOS nog verder toeneemt.

Whittaker stelt dat deze ontwikkeling een stille maar ingrijpende verschuiving is die niet alleen de privacy van gebruikers aantast, maar ook de bredere cybersecurity en de ruimte voor onafhankelijke softwareontwikkeling onder druk zet.