Aalener Nachrichten

Neue Er­mitt­ler ge­gen Hass im Netz

For­scher brin­gen Soft­ware bei, straf­ba­re Äu­ße­run­gen im Netz zu ent­de­cken

- Von Do­mi­nik Gug­ge­moos Tech · Machine Learning · Computer Science · Science · Germany · Facebook · Twitter · German Criminal Police Office · Bundestag · Bundestag of Germany · president of Germany · Essen Game Fair · Telegram Messenger · Frank Walter Steinmeier

(gug) - Der Stutt­gar­ter Ge­ne­ral­staats­an­walt Achim Brau­nei­sen for­dert 30 neue Stel­len für Er­mitt­ler, die Hass­kri­mi­na­li­tät im In­ter­net ver­fol­gen. DieS­tel­len sei­en not­wen­dig, um die An­for­de­run­gen ei­nes neu­en Bun­des­ge­set­zes zu er­fül­len. Die­ses soll An­bie­ter so­zia­ler Netz­wer­ke ver­pflich­ten, mög­li­cher­wei­se straf­ba­re Ein­trä­ge zu mel­den.

- Aus der TV-Se­rie Strom­berg stammt das Bon­mot: „Erst wer ver­hei­ra­tet ist, lernt ja, was es heißt zu has­sen.“Was Ehe­leu­ten mit­un­ter leicht­fällt, ist aber für Com­pu­ter enorm schwer. Im Kampf ge­gen den Hass ver­su­chen For­scher in Deutsch­land der­zeit ei­nem Al­go­rith­mus das Has­sen bei­zu­brin­gen. Die Künst­li­che In­tel­li­genz (KI) soll zum Kern­stück für ein neu­es Ge­set­zes­pa­ket ge­gen Hass­kri­mi­na­li­tät rei­fen.

Das Re­gel­werk ver­pflich­tet so­zia­le Netz­wer­ke, den Be­hör­den wüs­te Be­schimp­fun­gen oder hand­fes­te Be­dro­hun­gen zu mel­den. Ex­per­ten ge­hen da­von aus, dass das neue Ge­setz zu rund 250 000 zu­sätz­li­chen Straf­ver­fah­ren füh­ren wird – die Mel­dun­gen dürf­ten in die Mil­lio­nen ge­hen. Die Be­am­ten brau­chen al­so Hil­fe. Hier kommt die KI ins Spiel. Sie soll hel­fen, aus der Men­ge der Mel­dun­gen je­ne zu fin­den, die tat­säch­lich straf­bar sind.

Elea­nor Ho­bley ist For­schungs­lei­te­rin im Ge­schäfts­feld Big Data Ana­ly­se der Zen­tra­len Stel­le für In­for­ma­ti­ons­tech­nik im Si­cher­heits­be­reich (ZITiS). Sie füt­tert den Al­go­rith­mus mit Tau­sen­den von Posts, die ihm zei­gen, was Hass ist – und was nicht. Ho­bley: „Der Al­go­rith­mus lernt an­hand die­ser Bei­spie­le, was der Kon­text von Hass ist.“

Doch wie be­stim­men die For­scher über­haupt, was Hass ist? Da­bei hel­fen so­wohl Ju­ris­ten als auch Kom­mu­ni­ka­ti­ons­wis­sen­schaft­ler, die Teil des über 20-köp­fi­gen Pro­jekt­teams sind. Denn, sagt Ho­bley: „Was ei­ne Per­son als Hass emp­fin­det, ist nicht un­be­dingt ge­setz­lich ver­bo­ten.“Der Al­go­rith­mus soll nicht nur ler­nen, was Hass ist, son­dern ihn auch dif­fe­ren­ziert ein­ord­nen kön­nen. Ka­te­go­ri­en sind in et­wa Links- oder Rechts­ex­tre­mis­mus, re­li­giö­ser Hass oder be­stimm­te Pa­ra­gra­fen aus dem Straf­ge­setz­buch (StGB).

Die Klas­si­fi­ka­ti­on nach Art der Hass­re­de sei re­la­tiv ein­fach, sagt Ho­bley. Schwie­ri­ger sei es, nach Pa­ra­gra­fen im StGB zu un­ter­schei­den. Al­so ganz kon­kret: Ist das jetzt Volks­ver­het­zung oder Be­dro­hung? Um das zu­ord­nen zu kön­nen, muss die Künst­li­che In­tel­li­genz ler­nen, kon­kre­te Zu­sam­men­hän­ge zu er­ken­nen.

Da­für wer­den so­ge­nann­te An­no­ta­ti­ons­sche­men de­fi­niert. Das be­trifft den Kon­text, in dem Has­s­aus­sa­gen ge­trof­fen wer­den. Ho­bley: „Wir er­stel­len Re­geln: Ich er­ken­ne Hass, wenn die­se Kri­te­ri­en ge­ge­ben sind.“Je zu­ver­läs­si­ger die An­no­ta­tio­nen sind, des­to zu­ver­läs­si­ger wird die KI Hass er­ken­nen kön­nen. Die Re­geln, die für den Al­go­rith­mus er­stellt wer­den, müs­sen im­mer wie­der ge­prüft und an­ge­passt wer­den.

Die­se re­gel­mä­ßi­gen An­pas­sun­gen sind aus ei­nem ein­fa­chen Grund nö­tig: „Spra­che ist sehr dy­na­misch, erst recht im In­ter­net“, sagt Ho­bley und nennt das Bei­spiel „Co­v­idi­ot“. Wer den Be­griff vor neun Mo­na­ten ge­sucht hät­te, wä­re nir­gend­wo fün­dig ge­wor­den. Da­zu kommt noch ein un­ter­schied­li­cher Sprach­ge­brauch auf den ver­schie­de­nen Platt­for­men. Auf Face­book kom­mu­ni­zie­ren Men­schen an­ders als auf Twit­ter oder Te­le­gram. Glück­li­cher­wei­se gibt es für die For­scher An­sät­ze, wie man vor­han­de­ne Da­ten­sät­ze an­pas­sen kann, oh­ne sehr vie­le neue Da­ten hin­zu­fü­gen zu müs­sen – denn das ist im­mer be­son­ders ar­beits­in­ten­siv.

Zeit ist in dop­pel­ter Hin­sicht ein wich­ti­ger Fak­tor im Pro­jekt. Zum ei­nen ha­ben die Sach­be­ar­bei­ter vom BKA, de­nen der Al­go­rith­mus hel­fen soll, nur sie­ben Ta­ge Zeit, um die Ab­sen­der der Hass­bot­schaf­ten zu er­mit­teln. Da­nach lö­schen die Te­le­kom­mu­ni­ka­ti­ons­an­bie­ter die IPAdres­sen der Be­nut­zer. Zum an­de­ren soll­te das Ge­setz ei­gent­lich be­reits zum 1. Ja­nu­ar 2021 in Kraft tre­ten. Der­zeit liegt die No­vel­le, die der Bun­des­tag im Ju­li ver­ab­schie­det hat, aber noch auf dem Schreib­tisch von Bun­des­prä­si­dent Franz-Wal­ter St­ein­mei­er (SPD). Die­ser hält die Ab­fra­ge der Be­stands­da­ten Na­me oder Wohn­an­schrift oh­ne hand­fes­ten An­fangs­ver­dacht für ver­fas­sungs­wid­rig und will den Neu­ent­wurf nicht un­ter­zeich­nen.

Die Uni­ons­frak­ti­on im Bun­des­tag will des­halb nach­bes­sern. Der stell­ver­tre­ten­de Frak­ti­ons­vor­sit­zen­de Thors­ten Frei sag­te der „Schwä­bi­schen Zei­tung“: „Wir hof­fen, dass wir da­für vom Ko­ali­ti­ons­part­ner grü­nes Licht be­kom­men. Dann könn­te der Ent­wurf im März ab­ge­schlos­sen wer­den.“

Wird der Al­go­rith­mus bis da­hin ein­satz­fä­hig sein? Das Pro­jekt ist im Ju­li ge­star­tet und auf drei Jah­re an­ge­setzt. For­schungs­lei­te­rin Ho­bley ist zu­ver­sicht­lich, dass bis März ein Zwi­schen­er­geb­nis vor­ge­stellt wer­den kann. Al­ler­dings wird die KI ver­bes­sert wer­den müs­sen, bis sie wirk­lich op­ti­mal funk­tio­niert. Auch ist noch nicht klar, wie die Mel­dun­gen von Face­book & Co. dann im De­tail aus­se­hen wer­den.

Am En­de ist klar: Der Al­go­rith­mus kann nur ein Hilfs­werk­zeug sein. Ho­bley: „Letzt­end­lich ent­schei­det ein Mensch, ob es sich tat­säch­lich um Hass han­delt oder nicht.“

 ?? FO­TO: FA­BI­AN SOM­MER/DPA ?? Be­trei­ber so­zia­ler Netz­wer­ke wie Face­book müs­sen künf­tig Hass-Pos­tings an die Be­hör­den mel­den.
FO­TO: FA­BI­AN SOM­MER/DPA Be­trei­ber so­zia­ler Netz­wer­ke wie Face­book müs­sen künf­tig Hass-Pos­tings an die Be­hör­den mel­den.

Newspapers in German

Newspapers from Germany