icon-menu logo_footer preds symbol-afrader symbol-bestekoop symbol-besteuittest
Ga naar hoofdinhoud

Trap je in een gekloonde stem?

Je kind belt en zegt dat er iets vreselijks is gebeurd. Hij of zij heeft direct veel geld nodig! Trap je daarin? Dat is goed mogelijk, want de stem die je hoort is écht van je kind. Iedere stem is bijna perfect te klonen – nu ook in het Nederlands.

   Gepubliceerd op:12 september 2023

Ernstig zorgen

De politie en de Fraudehelpdesk maken zich ernstig zorgen. Het Amerikaanse bedrijf ElevenLabs ontwikkelde AI-software die vrij eenvoudig de stem van een Nederlandssprekende persoon kan klonen. Je hoeft slechts een geluidsfragment van een minuut op te nemen of van internet te halen om die stem te kunnen kopiëren. Als dat is gelukt, kun je die stem elke tekst laten uitspreken.

We kennen de ‘vriend-in-nood-fraude' al een tijdje, maar tot nu toe alleen met tekstberichtjes in WhatsApp en Facebook Messenger. Daar trappen dankzij alle waarschuwingen in de media nog maar weinig mensen in. Nu een stem gekloond kan worden, kunnen oplichters hun slachtoffers veel beter om de tuin leiden. Dan spreekt je kind bijvoorbeeld een berichtje in WhatsApp in: ‘Mam, ik heb mijn telefoon laten vallen, hij is stuk. Maar ik heb al een nieuwe. Dit is mijn nieuwe nummer ...'. De stem van je zoon of dochter is overtuigender dan een tekstberichtje dat van iedereen kan zijn.

In Nederland zijn bij de politie en de Fraudehelpdesk nog geen gevallen bekend, maar dat lijkt een kwestie van tijd. In de VS worden gekloonde stemmen al misbruikt voor ‘vriend-in-nood-fraude’. De NRC schreef deze maand over een Amerikaanse vrouw die een telefoontje krijgt van haar 15-jarige dochter. Het meisje vertelt dat er iets vreselijks is gebeurd. Dan komt er een man aan de lijn die losgeld eist. Het eerste deel van het gesprek was een opname gemaakt met AI. Dit liep goed af omdat iemand anders de politie belde. Die kende de truc inmiddels en kon de vrouw geruststellen.

Proef

Hoe makkelijk is het om een stem te klonen? We namen de proef op de som. We gingen naar de website van ElevenLabs (elevenlabs.io) en registreerden ons. Het bleek kinderlijk eenvoudig om met een opname van internet de stem van Mark Rutte te klonen. We schreven een korte tekst en lieten die door ‘Rutte’ uitspreken. De kwaliteit van de stemkopie vinden we opmerkelijk goed en dat is slecht nieuws.

Luister hier naar het resultaat (10 seconden):
Sample Mark Rutte WhatsApp.mp3

De politie en Fraudehelpdesk adviseren om bij telefoongesprekken over geld enkele persoonlijke vragen te stellen om elkaars identiteit vast te stellen.