Dood door kunstmatige intelligentie
The New Age of Sexism. How the AI revolution is reinventing misogyny
Cover The New Age of Sexism
Gegevensdiefstal, cybercriminaliteit, identiteitsfraude, nepnieuws en online pesten. Het zijn slechts enkele voorbeelden van de schaduwkant van internet. Ook kennen we inmiddels allemaal het gevaar van algoritmes, filterbubbels en echokamers, en hoe deze bijdragen aan polarisatie. Wie hier al slapeloze nachten van heeft, moet vooral niet verder lezen. Het wordt – of is – nog veel angstaanjagender. Lees The New Age of Sexism van Laura Bates. En huiver.
We doen het bijna achteloos. Een tekst door ChatGPT halen. Chatten met een bot van een verzekeringsmaatschappij. Een vraag stellen aan Siri. Het lijkt onschuldig en neutraal, maar is dat zelden. Recente technologieën als AI, robotica, VR en chatbots bevatten keuzes. Keuzes over wie data aanlevert en over gehanteerde normen. Deze keuzes weerspiegelen bestaande machtspatronen in de samenleving. Generatieve AI, zoals ChatGPT, kan nieuwe content (tekst, afbeeldingen, muziek) creëren door patronen te leren uit bestaande data, uit input van gebruikers. Inclusief alle misogyne, racistische en transfobe bagger. AI-systemen zijn vaak getraind op data die seksistische of racistische vooroordelen bevatten, en herhalen en (re)produceren deze.
In haar boek The New Age of Sexism onderzoekt Laura Bates hoe opkomende technologieën de mechanismen van misogynie en seksuele onderdrukking intensiveren en normaliseren. Ze laat zien hoe seksisme en racisme ingebakken zitten in de infrastructuren van technologie, in de algoritmes, bij de (voornamelijk witte, mannelijke) ontwerpers, en in de manier waarop gebruikers interacteren met AI-companions of virtuele omgevingen. De technologische ontwikkelingen veranderen onze wereld op een schaal en met een snelheid en reikwijdte die we moeilijk kunnen bevatten, omdat dit nooit eerder in de geschiedenis van de mensheid is voorgekomen.
Technologische innovatie betekent niet automatisch morele vooruitgang. En de risico’s voor meisjes en vrouwen zijn gigantisch en levensbedreigend.
The New Age of Sexism is een diepgaande analyse van hoe nieuwe technologische ontwikkelingen worden gebruikt om vrouwenhaat te verspreiden en vrouwen schade te berokkenen. Het probleem is niet slechts een randverschijnsel, maar wijdverbreid. We hebben het al lang niet meer niet over een paar sneue mannen in donkere hoekjes van het internet. De enorme reikwijdte en daarmee normalisering van vrouwenhaat is verbijsterend. Alleen al op TikTok zijn de video's van Andrew Tate – die spreekt over vrouwen bij de keel grijpen en bedreigen met machetes, en die suggereert dat vrouwen zelf verantwoordelijk zijn voor hun verkrachtingen – ruim elf miljard keer bekeken. Dat is meer dan het aantal mensen op aarde.
Elk hoofdstuk in het boek van Bates introduceert een nieuwe vorm van moderne technologie, de ene nog verontrustender dan de andere.
Deepfakes
Met deepfake-technologie worden seksueel getinte beelden van vrouwen gemaakt en verspreid, vaak zonder hun medeweten of toestemming: 96% van deepfakes betreft niet-consensuele pornografie, 99% daarvan portretteert vrouwen, zo blijkt uit haar onderzoek. Bates vermeldt een zaak uit Spanje waarin jonge meisjes deepfake-naaktbeelden van henzelf kregen doorgestuurd en werden gechanteerd. De daders werden niet gestraft. Wet- en regelgeving schieten structureel tekort: weinig landen hebben wetgeving die dit soort deepfakes bestrijdt. Ook bekende en vooraanstaande vrouwen zijn doelwit: zo werd de Noord-Ierse politica Cara Hunter slachtoffer van deepfake, wat haar campagne en mentale gezondheid nadelig beïnvloedde.
AI girlfriends
De opkomst van ‘AI-vriendinnen’ (AI girlfriends, chatbots die zich voordoen als vrouwen) faciliteert een nieuwe manier van seksisme en manipulatie. Deze bots bieden permanent gezelschap, begrip en gehoorzaamheid, stellen de behoeften van de gebruiker centraal en faciliteren al zijn seksuele fantasieën, zelfs verkrachtingsfantasieën. De downloadcijfers zijn enorm: tussen maart 2023 en maart 2024 kregen de elf populairste chatbots gezamenlijk 100 miljoen downloads.
Virtuele realiteit
Met behulp van VR (virtual reality) worden omgevingen gecreëerd waarin seksuele intimidatie en geweld worden nagebootst en genormaliseerd. In de virtuele wereld Metaverse rapporteren vrouwen herhaaldelijk verbale bedreigingen, achtervolgingen en zelfs gesimuleerde verkrachtingen. Effectieve moderatie ontbreekt: muten of afstand nemen volstaan niet, want verbale intimidatie blijft dan nog steeds mogelijk. Sommige VR-platforms voor kinderen, zoals Roblox, worden gebruikt voor grooming.
Cyber-bordelen
Cyber-bordelen zijn fysieke ruimtes waar klanten een seksrobot kunnen gebruiken, vaak gecombineerd met VR en AI. Deze bordelen zijn er wereldwijd. Gebruikers kunnen een pop kiezen en hun fantasieën instellen, zoals ‘geen ‘nee’ kunnen zeggen’. Sommige sekspoppen en -robots beschikken over een verkrachtingsmodus en simuleren pijn en verzet. Bates bezocht incognito een cyber-bordeel in Berlijn, waar ze vooraf een robot bestelde die Kokeshi heet: ‘Een siliconen omhulsel dat wordt aangeboden als een warme, gewillige, seksuele partner.’ Bates vroeg vooraf om Kokeshi in gescheurde kleding te kleden: echter, ook haar schaamlippen bleken afgescheurd. Elders, online, vindt ze sekspoppen die eruitzien als vijfjarige meisjes, compleet met kindervulva's.
‘Wraakporno’
Het publiceren van seksueel getinte afbeeldingen of video’s zonder toestemming – beeldgebaseerd seksueel misbruik – staat beter bekend als wraakporno of revenge porn. In 2014 werden tientallen accounts van beroemde vrouwen anoniem gehackt en honderden foto’s, waaronder naaktfoto’s uit hun privécollectie, zonder hun toestemming verspreid via internet. Deze cyberaanval is bekend geworden onder de namen Celebgate en The Fappening. De juridische gevolgen voor de daders waren niet noemenswaardig. Bates haalt ook de casus aan van de Britse Georgie, wier privéfoto’s werden gelekt door een ex. Om tot vervolging over te gaan moet in het Verenigd Koninkrijk bewezen worden dat de dader de intentie had om schade toe te brengen, en – niet verrassend, wel teleurstellend – de man werd vrijgesproken. Slechts een klein deel van de slachtoffers van revenge porn zoekt gerechtigheid; de meeste gevallen leiden niet tot strafvervolging. In de weinige keren wanneer dat wel gebeurt, zijn de straffen vaak licht: een boete of een voorwaardelijke straf.
Victimblaming
De reacties die vrouwen doorgaans krijgen, vallen in de categorie victimblaming: ‘beperk je online aanwezigheid’, ‘verwijder jezelf van sociale media’ en ‘had die foto’s dan ook niet genomen’. Ook het begrip ‘wraakporno’ is een vorm van victimblaming: ‘wraak’ suggereert een motief van de dader en wekt de indruk dat het slachtoffer iets heeft gedaan wat wraak rechtvaardigt. Vrouwen worden verantwoordelijk gehouden voor het geweld dat hen wordt aangedaan.
Sciencefiction? Ammehoela
Voor veel mensen lijkt de scheiding tussen de online- en offlinewereld glashelder. Ze zien de nieuwe technologieën als sciencefiction, als iets wat ons niet echt raakt. Maar de realiteit is anders. Nu al worden schoolmeisjes uit de klas gejaagd door deepfake-pornografie die hun mannelijke leeftijdsgenoten met één gratis muisklik maken. Vorig jaar bleek dat dat één op de tien minderjarigen iemand kent van wie een nepnaaktfoto met AI is gemaakt.
Bates vraagt zich af waarom de samenleving dit parallelle universum tolereert. Denken we dat het geen gevolgen heeft, omdat het om robots en de virtuele wereld gaat, en dus ‘namaak’ is? Is de beeldvorming over vrouwen dan niet echt? Tijdens haar onderzoek ontdekte Bates talloze gevallen waarin nieuwe technologieën voor openbaar gebruik zijn geïntroduceerd, ondanks onomstotelijke bewijzen dat ze racistische en vrouwonvriendelijke vooroordelen in stand houden en versterken.
Voorstanders stellen dat online mogelijkheden, zoals seksrobots, voorzien in een behoefte en helpen om seksuele misdrijven tegen te gaan. Deze onterechte aanname werd ook geuit bij de opmars van pornografie. Op het eerste gezicht lijkt het wellicht logisch: een potentiële verkrachter die thuis achter zijn computer masturbeert bij porno, gaat misschien minder snel over tot een geweldsmisdrijf. Niets blijkt minder waar. Bates merkt op dat er sinds de komst van Kokeshi en haar AI-vrienden een toename is van seksueel wangedrag door mannen.
Oud geweld in nieuwe zakken
Er is iets groots, giftigs en onstuitbaars gaande. ‘Neppornografie is een nieuwe vorm van misbruik’, schrijft Bates, ‘maar de onderliggende machtsverhoudingen zijn heel oud.’ De nieuwe technologieën objectiveren vrouwenlichamen, normaliseren (extreme en gewelddadige) seksuele fantasieën zonder morele of wettelijke grenzen, normaliseren seksueel geweld en grensoverschrijdend gedrag zonder consequenties voor daders, simuleren seksueel misbruik van kinderen, zetten deepfakes in als politiek wapen om vrouwen uit machtsposities te weren. En dat alles zonder strafrechtelijke vervolging. In de meeste landen is het maken of verspreiden van deepfake-naaktbeelden niet expliciet strafbaar, en seksueel grensoverschrijdend gedrag wordt vermarkt zonder wetgeving of ethische regulering. Zo verworden digitale tools een verlengstuk van patriarchale controlemechanismen die structurele misogynie digitaal verspreiden.
Ondertussen weigeren techbedrijven verantwoordelijkheid te nemen. Grote bedrijven, zoals Meta, TikTok en Roblox, worden niet juridisch aansprakelijk gehouden voor seksueel misbruik op hun platforms. Op meldingen van misstanden reageren ze traag, onvolledig of totaal niet. Winst is blijkbaar belangrijker dan gebruikersveiligheid, zelfs als het gaat om kinderen en slachtoffers van seksueel geweld.
De steeds geavanceerdere, vaak verontrustende nieuwe technologie (AI, virtual reality, robotica, de Metaverse) maakt volgens Bates een nieuw tijdperk van vrouwenhaat mogelijk: ‘We staan aan de rand van een afgrond’.
Oplossing?
The New Age of Sexism is een alarmerend boek. Met haar scherpe en gedegen onderzoek toont Bates genadeloos de raakvlakken tussen AI en vrouwenhaat. De boodschap is duidelijk: seksisme is niet verdwenen, het is gewoon opnieuw geprogrammeerd.
Krijgen we de geest weer in de fles? Bates geeft daar geen antwoord op. Wel roept ze overheden en techbedrijven op tot regulering en ethische ontwerpprincipes. Net als bij voedings- en farmaceutische bedrijven zijn er sterke argumenten voor betere regelgeving, toezicht, wetgeving en transparantie, opdat de AI-miljardairs hun verantwoordelijkheid nemen. Echter, zolang de techindustrie (en menig overheid) vooral uit is op zelfverrijking – zie ook The Empire of AI van journaliste Karen Hao – is er weinig hoop.
Het is geen technologisch probleem. Het is een probleem van vrouwenhaat. Het is een maatschappelijk probleem, dat wordt verergerd door politici die bereid zijn een handvol techmiljardairs te steunen door ethische regelgeving te blokkeren ten gunste van eigen gewin: geld en wereldheerschappij. En elke dag betalen vrouwen en jonge meisjes de prijs voor wat zij ‘vooruitgang’ noemen.
Het boek The New Age of Sexism. How the AI Revolution is Reinventing Misogyny verscheen in mei 2025 en is hier te bestellen.
Over de auteur
Laura Bates (1986) is een Britse schrijfster. In 2012 lanceerde ze de website Everyday Sexism Project. Eerder verschenen van haar hand de non-fictieboeken:
- Everyday Sexism (2014)
- Girl Up. Kick Ass, Claim Your Woman Card, and Crush Everyday Sexism (2017)
- The True Scale of Sexism (2018)
- Men Who Hate Women. The Extremism Nobody is Talking About (2021)
- Fix the System, Not the Women (2022)
Ook publiceerde ze drie fictieboeken voor jongvolwassenen (Young Adult).
- The Burning (2019) behandelt thema's als wraakporno, slut-shaming en hekserij
- Sisters of Sword and Shadow (2020) is een hervertelling van een bekende Arthurlegende. De ‘Ridders van de Ronde Tafel’ zijn vrouwen die strijden tegen het onrecht dat mannen plegen
- The Trial (2021) verkent thema's als toestemming, medeplichtigheid, seksueel geweld en gerechtigheid
Steun LOVER!
LOVER draait uitsluitend op vrijwilligers en donaties. Wil je dat Nederlands oudste feministische tijdschrift blijft bestaan? Help ons door een (eenmalige) donatie. Elke euro is welkom en wordt gewaardeerd. Meer informatie vind je hier.