AI-chatbot Grok genereert en verspreidt onrechtmatig seksuele beelden op het platform X, en dat leidt mogelijk tot een Europees verbod.
Lees verder na de advertentie.
Onderzoek naar AI-beelden van Grok
AI-chatbot Grok ligt momenteel wereldwijd onder een vergrootglas omdat het op het social media-platform X onrechtmatig seksueel beeldmateriaal genereert en verspreidt. In Indonesië en Maleisië zijn inmiddels al maatregelen getroffen en dat zou in Europa zeker ook kunnen gebeuren.
Volgens de Britse toezichthouder Ofcom is er mogelijk sprake van pornografie en beelden van kindermisbruik. Ofcom is inmiddels dan ook een onderzoek naar Grok gestart na de verontrustende meldingen. Het onderzoek moet duidelijk maken hoeveel risico mensen lopen om illegale content op het platform te zien. Daarnaast wordt gekeken hoe groot de risico’s voor kinderen zijn en of er verdere maatregelen nodig zijn.
Wereldwijde ophef
De kwestie speelt wereldwijd. Er is veel ophef ontstaan over door AI gegenereerde afbeeldingen die zonder toestemming van de afgebeelde personen kunnen worden gemaakt. Daarbij gaat het niet alleen om volwassenen. Ook beelden van kinderen genereren bleek mogelijk.
Meerdere landen hebben inmiddels ingegrepen. Maleisië heeft de toegang tot Grok voorlopig beperkt. Dat bevestigde de Maleisische internettoezichthouder afgelopen zondag. Indonesië nam een dag eerder al vergelijkbare maatregelen en de kans is groot dat er nog meer landen volgen.
X en Grok hebben laten weten dat de aanstootgevende afbeeldingen inmiddels zijn verwijderd. Daarnaast maakte xAI bekend dat alleen betalende gebruikers nog afbeeldingen kunnen genereren.
Strafbaar
Het maken van ongevraagd seksueel getint beeldmateriaal is in Nederland strafbaar. Dat geldt ook als dit met behulp van generatieve AI gebeurt, zoals bij Grok op X. Of zulke afbeeldingen per ongeluk worden gegenereerd of niet, maakt daarbij geen verschil. Bovendien is het moeilijk te verdedigen dat iemand bij het gebruik van generatieve AI onbedoeld bij seksueel getint beeldmateriaal uitkomt. Een Europees verbod voor Grok en/of X is dan ook zeker niet ondenkbaar.
Wil je op de hoogte blijven van de ontwikkelingen bij X en Grok? Schrijf je dan in voor onze nieuwbrief.
