Bende twitterende Turkse AI-poezen promoten pornosites en wedkantoren
Meer dan drieduizend accounts in botnetwerk
De bekende dataonderzoeker Conspirador Norteño heeft een Turks botnetwerk ontdekt van twitteraccounts met door AI gegenereerde profielfoto’s. De profielen in de groep volgen bijna uitsluitend elkaar en hebben automatisch gegenereerde poezen, anime-meisjes en vrouwen als afbeelding ingesteld. Naast een aantal vage termen promoten ze escortdiensten en wedkantoren.
Hij kwam de bots op het spoor door te herkennen dat de profielfoto’s van sommige verdachte accounts wel heel erg leken op de automatisch genereerde foto’s van websites als thispersondoesnotexist.com, waar nu ook katten- en anime-versies van bestaan. Hij herkende bijvoorbeeld dat de ogen van alle vrouwen op dezelfde plek stonden en dat ze allemaal voor een lege achtergrond afgebeeld waren. Bij de katten liep de vacht nog wel eens over in de achtergrond, en sommige anime-meisjes misten een neus of mond.
De accounts plaatsen vooral reacties op porno en wedkantoren, bestaande uit vrij vage termen als ‘laat me mijn glimlach spiegelen’ en ‘mijn ziel is een tweeling van jouw ziel.’ Verder plaatsen en retweeten ze vooral pornoplaatjes. Alle accounts in het netwerk zijn begin dit jaar of later gemaakt en volgen vrijwel uitsluitend andere accounts uit het netwerk.
De actie druist in tegen de richtlijnen van Twitter, en veel van de accounts zijn inmiddels al opgeschort. Dezelfde onderzoeker ontdekte eerder al een soortgelijk netwerk dat gebruikt werd om volgers mee te verkopen, vaak met duizenden tegelijk. Ook dat netwerk maakte gebruik van met AI gegenereerde profielfoto’s.