De discussie over door AI gemaakte seksueel getinte beelden is in korte tijd geëscaleerd door voorbeelden die via Grok werden gemanipuleerd en vervolgens breed rondgingen op X. In de meldingen ging het om vrouwen die zonder toestemming werden vervormd tot vernederende scènes, en er was ook verontwaardiging over beelden waarbij minderjarigen zouden zijn betrokken. De storm rond deze content heeft de druk op xAI verhoogd, omdat platforms steeds minder ruimte krijgen om dit soort materiaal als bijvangst van innovatie te behandelen.
Toezichthouders en overheden hebben intussen duidelijk gemaakt dat zij de verspreiding van dit type materiaal niet langer alleen als een moderatiekwestie zien, maar als een handhavingsvraagstuk met juridische gevolgen. In meerdere landen zijn beperkingen opgelegd of onderzoeken aangekondigd, waarbij onder meer wordt gekeken naar naleving van online veiligheidsregels en de plicht om illegale content effectief te beperken. Die internationale beweging onderstreept dat een platform niet alleen op technologie wordt afgerekend, maar ook op het vermogen om risico’s aantoonbaar te beheersen.
In de Verenigde Staten is Californië naar voren geschoven als hardere stem, doordat de procureur generaal publiek antwoorden heeft geëist over het plan om het maken en verspreiden van dit materiaal te stoppen. De gouverneur heeft daarbij opgeroepen tot een directe aanpak en tot verantwoording van het bedrijf, juist omdat het volgens de autoriteiten gaat om grootschalige intimidatie van vrouwen en meisjes. Het onderzoek richt zich op de vraag of en hoe xAI en de inzet van Grok bijdragen aan de productie en distributie van expliciet materiaal zonder toestemming.
xAI heeft vervolgens aangekondigd dat het bewerken van beelden van echte mensen naar onthullende kleding wordt geblokkeerd, en dat dit voor alle gebruikers geldt, ook voor betalende accounts. Daarnaast is gekozen voor locatiegebonden blokkades in gebieden waar dit type beeldvorming volgens de geldende regels niet is toegestaan, zonder dat publiek is gemaakt welke rechtsgebieden precies onder die set vallen. De maatregel volgt op eerdere beperkingen rond beeldfuncties, maar de kern is dat het bedrijf nu expliciet een categorie bewerkingen afknijpt die in de praktijk het vaakst ontspoorde.
De controverse heeft ook een tweede front geopend, omdat politici en belangengroepen hebben aangedrongen op verwijdering van Grok uit appwinkels wanneer waarborgen tekortschieten. Elon Musk heeft publiek gezegd dat hij niet bekend was met naakte beelden van minderjarigen die door Grok zouden zijn gegenereerd, terwijl de autoriteiten juist benadrukken dat de schade vooral ontstaat door schaal en verspreiding. Reuters meldde bovendien dat de dienst kort voor de aankondiging nog in staat was om in privé interacties seksueel geladen beelden te leveren, wat het vertrouwen in half open filters verder heeft aangetast.
Suriname moet dit analyseren omdat digitale veiligheid ook reputatie, rechtsstaat en investeringsklimaat raakt, zeker nu deepfakes steeds makkelijker te maken zijn. Een overheid die duidelijk vastlegt hoe meldingen worden aangenomen, hoe bewijs wordt veiliggesteld en hoe platforms worden aangesproken, haalt de angel uit paniek en maakt handhaving voorspelbaar voor slachtoffers en bedrijven. Redacties, scholen en organisaties die hun eigen verificatie en privacyprotocollen strak trekken, voorkomen dat schandalen pas serieus worden genomen wanneer het al viraal is gegaan.
