Het recente besluit van Twitch om content van gebruikers te gebruiken voor het trainen van Amazon-AI stuit op steeds meer kritiek. De Autoriteit Persoonsgegevens (AP) roept gebruikers nu op om een nieuwe instelling uit te schakelen waarmee Amazon hun persoonsgegevens kan gebruiken om generatieve AI-modellen te trainen.
Twitch, dat eigendom is van Amazon, heeft onlangs de instelling ‘Training for Generative AI’ ingeschakeld, waarmee gepubliceerde content van gebruikers kan worden gebruikt voor AI-training. De functie is standaard ingeschakeld. Gebruikers moeten deze dus zelf uitschakelen als ze niet willen dat hun content wordt gebruikt.
De AP adviseert Twitch-gebruikers om de functie zo snel mogelijk uit te schakelen.
Gezichten, stemmen, chats en privéruimtes
Volgens de privacytoezichthouder kunnen Twitch-streams grote hoeveelheden persoonsgegevens bevatten. Denk aan gezichten, stemmen en namen van gebruikers, maar mogelijk ook beelden van privéruimtes, zoals slaapkamers.
Ook chats en andere teksten die op Twitch worden geplaatst, kunnen als trainingsmateriaal worden gebruikt.
De AP maakt zich vooral zorgen over gezichtsbeelden en andere gevoelige persoonsgegevens die in AI-modellen terechtkomen. Zodra persoonsgegevens zijn gebruikt om een AI-systeem te trainen, kan het bijzonder lastig zijn om deze informatie weer te verwijderen. Hierdoor kunnen gebruikers de controle verliezen over wat er vervolgens met hun gegevens gebeurt.
De toezichthouder waarschuwt daarnaast dat AI-systemen persoonsgegevens mogelijk kunnen reproduceren, waardoor gebruikers het risico lopen slachtoffer te worden van oplichting of andere vormen van misbruik.
AP: schakel AI-training vandaag nog uit
Twitch-gebruikers die niet willen dat hun content wordt gebruikt voor het trainen van Amazon-AI kunnen zich handmatig afmelden. De instelling is te vinden via Instellingen → Beveiliging en privacy → Training for Generative AI.
“Het delen van gegevens zoals je gezicht en stem om de AI-modellen van Amazon te trainen is erg riskant”, waarschuwt AP-vicevoorzitter Monique Verdier. Ze roept gebruikers op de instelling direct aan te passen.
De toezichthouder heeft ook kritiek op het besluit van Twitch om gebruikers standaard te laten deelnemen in plaats van vooraf om toestemming te vragen. Twitch heeft eerder erkend dat veel minder gebruikers zouden deelnemen als ze AI-training zelf actief moesten inschakelen.
