Op Twitter heerste even vrede. Lang heeft dat niet geduurd
Het aandeel giftige berichten, persoonlijke verwijten en discriminerende uitlatingen heeft nieuwe hoogtes bereikt op socialenetwerksite Twitter.
De uitbraak van de coronacrisis, in maart twee jaar geleden, had een verrassend effect op de toxiciteit van socialemediasite Twitter. Het aandeel toxische berichten ging prompt naar beneden. Enkele maanden later klommen de cijfers evenwel met gemak tot boven het niveau van voor de uitbraak en zelfs tot nieuwe hoogtes. Het gevoel van samenhorigheid was snel weer voorbij.
Tussen januari 2019 en april 2022 heeft het Belgische technologiebedrijf Textgain, een spin-off van de UAntwerpen, maandelijks één tot anderhalf miljoen Nederlandstalige berichten gescreend op hun toxiciteit. Dat gebeurde samen met enkele Europese universiteiten in het kader van een door de Europese Commissie gefinancierd project om haatspraak te monitoren, te voorkomen en te bestrijden, genaamd IMSyPP.
Met de hulp van kunstmatige intelligentie legde Textgain een databank met ongeveer 12.500 toxische termen aan. Die werden gebruikt om patronen van woorden in berichten op Twitter te labelen als al dan niet toxisch.
Polariserende inhoud
De termen uit de databank variëren van ontmenselijkend tot discriminerend of polariserend. Het gaat bijvoorbeeld om een racistische benaming als ‘dobberneger’, een synoniem voor mensen die per boot hun land ontvlucht zijn. Antisemitische uitlatingen zoals ‘idijood’ of ‘haakneus’ maken eveneens deel uit van de databank, naast het meer gebruikelijke ‘smeerlap’. Ook verwijten aan het Vlaamsgezinde gedeelte van het politieke spectrum ontbreken niet, zoals ‘Vlazi’ of ‘goedvlaem’.
‘Het is niet dat iedere tweet met bijvoorbeeld de term “smeerlap” automatisch als toxisch gelabeld wordt. We filteren op bepaalde patronen van tekst om de meest toxische eruit te halen. Als bijvoorbeeld een woord tussen aanhalingstekens staat en dus geciteerd wordt, dan weet ons algoritme dat daar geen rekening mee gehouden moet worden’, zegt Guy De Pauw, de ceo van Textgain. ‘Behalve als de aanhalingstekens wel kunnen wijzen op toxiciteit, zoals wanneer het om “jongeren” gaat.’
Het resultaat van die screening toont dat, ondanks de inspanningen vanuit overheden, middenveldorganisaties en Twitter zelf, de toxiciteit blijft toenemen. April 2022 bleek bijvoorbeeld de meest toxische maand te zijn sinds het begin van het onderzoek. Meer dan 1,5 procent van de onderzochte berichten bevat inhoud die volgens de databank van Textgain polariserend is. Dat is meer dan een verdubbeling tegenover de eerste maand die deel uitmaakt van de analyse, namelijk januari 2019.
Tegelijk klinkt 1,5 procent weinig – en valt het dus nog wel mee met de giftigheid op Twitter. Daar wil De Pauw geen uitspraken over doen. Hij legt uit dat het algoritme de lat voor het label toxisch hoog legt om valse positieven te vermijden.
Door de zoektermen onder te brengen in categorieën, laat het algoritme van Textgain zien waar de problemen zich situeren. In de screening van vorige maand is de restcategorie de grootste. ‘In deze categorie zijn alle toxische berichten over corona ondergebracht, net zoals kritiek op de media’, legt De Pauw uit.
Ondanks de inspanningen vanuit overheden, middenveldorganisaties en Twitter zelf, blijft de toxiciteit op Twitter toenemen
Knokkerokko
De categorie racisme daarentegen is kleiner dan men zou verwachten. De Pauw: ‘Maar dat beeld is misschien wat vertekend omdat bijvoorbeeld islamofobie in de categorie religie is ondergebracht.’
De toxiciteit online staat niet los van de actualiteit, legt De Pauw uit. De grote sprong tussen juli en augustus 2020 in de grafiek verklaart hij onder meer door de rellen op het strand van Blankenberge en Knokke – op sociale media omgedoopt tot ‘Knokkerokko’ –, rellen in de Schilderswijk in Den Haag en de bijkomende maatregelen die de Antwerpse provinciegouverneur Cathy Berx nam om de verspreiding van het coronavirus in te perken.
De voorbije jaren kwamen eerdere onderzoeken van Textgain al ter sprake in de commissie Radicalisering van het Vlaams Parlement en de Senaat. Toen werd vastgesteld dat de Vlaamse sociale media niet zozeer gebukt gaan onder georganiseerd extremisme, als wel onder tal van gepolariseerde persoonlijke meningen, ‘waarbij sommige burgers dreigende taal niet schuwen’.
Kunstmatige intelligentie
Met deze studie heeft Textgain niet alleen geobserveerd wat er leeft op Twitter, maar heeft het bedrijf ook verder geïnnoveerd met taaltechnologie en kunstmatige intelligentie. De komende jaren leidt Textgain voor de Europese Commissie het European Observatory of Online Hate, dat de dynamiek van online haat beter in kaart moet brengen, werkt het samen met vzw’s zoals Dare to be grey om die online haat te counteren en onderzoekt het voor Facebook de populariteit van bepaalde complottheorieën.
Dan toch geen boerkini in zwembad Grenoble
FRANKRIJK Een administratieve rechtbank heeft de beslissing van de gemeenteraad van Grenoble opgeschort om de boerkini toe te laten in gemeentelijke zwembaden. Op vraag van minister van Binnenlandse Zaken Gérald Darmanin was de prefect van Isère naar de rechtbank gestapt op basis van de wet op het separatisme.
Prefecten kunnen naar de administratieve rechtbank stappen als ze menen dat een beslissing van een lokaal bestuur de neutraliteit van de openbare diensten aantast. Dat was volgens de rechter het geval. Darmanin verwelkomde de uitspraak. De burgemeester van Grenoble en gangmaker achter het besluit, Éric Piolle, gaat in beroep.