Consumentenorganisaties roepen op tot betere bescherming consumentenrechten bij AI

Aanleiding voor de oproep is een publicatie van de Noorse consumentenorganisatie Forbrukkeradet (NCC) op 20 juni 2023. Dit rapport: ‘Ghost in the machine - Addressing the consumer harms of generative AI’, beschrijft de belangrijkste risico's van generatieve AI voor consumenten, bijvoorbeeld voor hun veiligheid en privacy. Maar het zet ook uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten. 

Transparantie

Sandra Molenaar, directeur Consumentenbond: ‘AI biedt consumenten talloze mogelijkheden, dus wij zijn niet tegen AI of generatieve AI. Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI.

Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf voorop stellen. Daarom moeten toezichthouders en beleidsmakers zorgen dat de ontwikkeling én het gebruik van generatieve AI veilig, betrouwbaar en transparant zijn.’

Huidige wetgeving inzetten

De consumentenorganisaties die de oproep doen, maken zich zorgen over de rechten en veiligheid van consumenten bij Generatieve AI in zijn huidige vorm. Omdat de Europese AI-Act nog niet van kracht is, moeten de toezichthouders de bestaande EU-wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming gebruiken om te handhaven.

Molenaar: ‘daarnaast hebben we de ACM en de AP gevraagd een onderzoek in te stellen naar de risico's en schade die generatieve AI diensten opleveren voor consumenten’. De AP kan het rapport van de NCC ook als input gebruiken voor hun al lopende onderzoeken naar toepassingen op AI gebied.

Risico’s van AI

AI kan veel risico’s opleveren voor consumenten. Zo confronteerde Snapchat kinderen recentelijk met My AI. Deze chatbot geeft adviezen die niet zijn afgestemd op de leeftijd van de vragensteller, wat gevaarlijke situaties kan opleveren. Dit voorbeeld en andere voorbeelden van de risico’s van AI staan beschreven in het rapport van de NCC en op Wat is kunstmatige intelligentie (AI)?.

Wat is generatieve AI?

Generatieve AI zijn toepassingen die getraind worden met grote hoeveelheden gegevens en daarmee nieuwe inhoud kunnen genereren, zoals tekst, beeld, spraak en/of geluid. Bekende generatieve AI-diensten zijn ChatGPT, DALL-E, Midjourney en Stable Diffusion. Bedrijven als Microsoft, Google en Snapchat hebben de technologie al verwerkt in hun diensten, zoals zoekmachines, tekstverwerking en chat.