De Britse overheid heeft een nieuwe juridische uitzondering ingevoerd die kinderbeschermingsorganisaties toestaat om te testen of AI-modellen in staat zijn om kinderpornografisch materiaal (CSAM) te genereren. Dat meldt Cybernews.
De stap wordt verwelkomd door de Internet Watch Foundation (IWF) en pakt een lang bestaand juridisch hiaat aan dat het moeilijk maakte voor toezichthouders en AI-ontwikkelaars om te controleren of modellen misbruikt konden worden om illegaal materiaal te creëren. Volgens eerdere wetgeving konden zelfs onderzoekers die dergelijk materiaal voor preventieve doeleinden genereerden, strafrechtelijk worden vervolgd.
Met de nieuwe maatregel kunnen organisaties zoals de IWF én AI-ontwikkelaars hun systemen veilig testen en controleren of er voldoende veiligheidsmaatregelen zijn ingebouwd om de creatie van misbruikbeelden te blokkeren.
Volgens de IWF komt deze wetswijziging op een cruciaal moment. Hun meest recente data tonen aan dat het aantal AI-gegeneerde CSAM-gevallen in het afgelopen jaar bijna is verdubbeld. De zwaarste categorie—materiaal met seksuele handelingen en geweld—maakt inmiddels 56% uit van alle illegale AI-content.
“Deze wetswijziging stelt ons in staat AI-modellen effectiever te onderzoeken en ervoor te zorgen dat ze niet gebruikt kunnen worden voor het creëren of verspreiden van kindermisbruikbeelden,” aldus de IWF in een verklaring.
De Britse overheid noemt de wetsaanpassing een essentiële stap om kinderen online te beschermen, zeker nu AI steeds vaker wordt ingezet voor seksuele uitbuiting.
De discussie rondom het maken en verspreiden van CSAM laait al maanden op. Sommige landen stelden voor om ‘Chat Control’ op EU-niveau in te voeren, wat toegang tot privéberichten direct op het apparaat van gebruikers zou toestaan. Dat voorstel is voorlopig uitgesteld.
Ondertussen blijkt Nederland de grootste Europese host van CSAM te zijn.
