De kunstmatige-intelligentiechatbot van Meta mag volgens interne richtlijnen expliciet “een kind betrekken bij gesprekken die romantisch of sensueel zijn”, valse medische informatie verspreiden en racistische uitspraken doen. Dat meldt Reuters, dat een intern uitgelekt bedrijfsdocument in handen kreeg waarin de standaarden voor de AI-assistent van Meta worden beschreven. Deze assistent is beschikbaar op alle grote Meta-apps, waaronder Instagram, Facebook en WhatsApp.
Het document van ruim 200 pagina’s, getiteld “GenAI: Content Risk Standards”, beschrijft het toelaatbare gedrag van de AI-assistent op alle platformen. Een van de meest zorgwekkende bepalingen stelt dat het “acceptabel is om een kind te beschrijven in termen die hun aantrekkelijkheid benadrukken” en bevat zelfs voorbeelden van romantische of affectieve taal richting minderjarigen. Hoewel expliciete seksuele beschrijvingen van kinderen onder de 13 verboden zijn, werd romantische rollenspel en flirtende opmerkingen toegestaan.
Meta bevestigde de authenticiteit van het document. Na vragen van Reuters liet het bedrijf weten de passages die dit toestonden inmiddels te hebben verwijderd. Woordvoerder Andy Stone noemde ze “foutief en in strijd met ons beleid” en gaf toe dat de handhaving van de regels inconsistent was.
Hetzelfde document onthulde andere controversiële toestemmingen, waaronder dat de AI racistische argumenten mocht genereren en valse informatie over publieke figuren mocht verspreiden, mits er een disclaimer bij stond dat het onwaar is. Ook stonden er richtlijnen in voor het maken van gewelddadige of geseksualiseerde beelden, inclusief alternatieve “afleidingsbeelden” wanneer expliciete verzoeken over beroemdheden werden afgewezen.
Critici stellen dat deze onthullingen ernstige ethische vragen oproepen over wat techbedrijven hun AI toestaan om te produceren. Evelyn Douek, hoogleraar aan Stanford Law School, merkte op dat het door AI laten produceren van verontrustende content “moreel, ethisch en technisch” iets heel anders is dan het simpelweg hosten van door gebruikers gegenereerde inhoud.
Meta en zijn socialmediaplatformen liggen de laatste tijd vaker onder vuur over privacy en ethische bedrijfspraktijken. Zo werd het bedrijf recent schuldig bevonden aan het schenden van privacyrechten door samen met de Flo-menstruatiecyclusapp persoonlijke medische gegevens te verzamelen voor advertentiedoeleinden. Daarnaast loopt er in Italië een onderzoek naar het verplicht opdringen van de Meta AI aan gebruikers, zonder mogelijkheid om de chatbot uit te schakelen, een andere assistent te kiezen, of duidelijkheid over welke gegevens de AI kan inzien.
