An­griff der Al­go­rith­men

ProZukunft - - Big Data | Navigator -

Im me­dia­len Dis­kurs ha­ben Al­go­rith­men der­zeit ei­ne ten­den­zi­ell ne­ga­ti­ve Kon­no­ta­ti­on. Für Fach­leu­te aus den Be­rei­chen In­for­ma­tik und Ma­the­ma­tik mag dies un­ver­ständ­lich sein, steht der neu­tra­le Fach­be­griff Al­go­rith­mus im All­ge­mei­nen doch le­dig­lich für ei­ne au­to­ma­ti­sier­te Be­rech­nungs­me­tho­de, ei­ne Art abs­trak­ter Pro­gramm­code. Al­go­rith­men sind all­ge­gen­wär­tig, bei­spiels­wei­se beim Fin­den der schnells­ten Rou­te in Na­vi­ga­ti­ons­sys­te­men oder beim „Ent­wackeln“von Smart­pho­ne-fo­tos. Vom „An­griff der Al­go­rith­men“zu spre­chen wä­re dem­nach in et­wa so, wie den Ein­satz von Schieß­pul­ver als „An­griff der Che­mie“zu be­zeich­nen. Der Be­deu­tungs­wan­del der Al­go­rith­men vom neu­tra­len Tool zur Be­dro­hung hat je­doch nach­voll­zieh­ba­re Grün­de, die Ca­thy O’neil in die­sem Buch her­aus­ar­bei­tet.

Grund­sätz­lich be­schäf­tigt sich ihr Buch mit ei­ner spe­zi­el­len Klas­se von Al­go­rith­men, näm­lich com­pu­ter­ge­stütz­ten Mo­del­len der prä­dik­ti­ven Sta­tis­tik auf Ba­sis gro­ßer Da­ten­men­gen, land­läu­fig als „Big Da­ta Al­go­rith­men“be­kannt. Die Kurz­form von O’neils Kri­tik ist, dass die­se Al­go­rith­men meist in­trans­pa­rent sind und mit un­sau­be­ren bis un­wis­sen­schaft­li­chen An­nah­men ge­füt­tert wer­den. Da­bei ge­lingt es der Au­to­rin aber stets, ein dif­fe­ren­zier­tes Bild zu zeich­nen: Die Al­go­rith­men sind nicht bös­ar­tig per se; ihr de­struk­ti­ves Po­ten­zi­al ent­fal­ten sie dann, wenn ih­re Ent­schei­dun­gen nicht hin­ter­fragt wer­den – in der Re­gel, weil sie ei­ne Au­ra der Ob­jek­ti­vi­tät und Un­fehl­bar­keit um­gibt. Als ein­präg­sa­me Ana­lo­gie für die kri­ti­sier­te Schein­ob­jek­ti­vi­tät er­wähnt O’neil den Bo­dy-mass-in­dex (BMI). Es ist mitt­ler­wei­le be­kannt, dass der BMI in vie­len Fäl­len kein ver­läss­li­cher In­di­ka­tor für Über­ge­wicht ist. Den­noch ge­nießt er als prä­zi­se ge­mes­se­ne Zahl oft noch un­re­flek­tier­te Au­to­ri­tät, auch im Ge­sund­heits­we­sen. Im Be­reich von Big Da­ta gibt es zahl­rei­che sol­cher falsch in­ter­pre­tier­ter In­di­ka­to­ren – in der Re­gel sind sie je­doch er­heb­lich kom­ple­xer als die Bmi-for­mel. Im Buch wird ver­deut­licht, dass dies zahl­rei­che An­wen­dungs­do­mä­nen be­trifft, zum Bei­spiel durch Mo­del­le zur Be­wer­tung der Kre­dit­wür­dig­keit von Bank­kun­din­nen, der Rück­fall­quo­te von Ver­ur­teil­ten oder der Per­sön­lich­keit von Be­wer­be­rin­nen.

Die größ­te Ge­fahr am un­hin­ter­frag­ten Aus­la­gern von Ent­schei­dun­gen an Al­go­rith­men wit­tert O’neil in so­ge­nann­ten ne­ga­ti­ven Feed­back­schlei­fen. Die­se füh­ren da­zu, dass Al­go­rith­men Rea­li­tät er­zeu­gen an­statt sie ein­fach nur ab­zu­bil­den. Als ein­drucks­vol­les Bei­spiel er­läu­tert sie den Ein­satz von Com­pu­ter­pro­gram­men zur Vor­her­sa­ge von Straf­ta­ten. Die­se wer­den in den USA ver­mehrt ver­wen­det, um knap­per wer­den­de per­so­nel­le Res­sour­cen aus­zu­glei­chen. Strei­fen­po­li­zis­ten pa­trouil­lie­ren ziel­ge­nau in je­nen Be­zir­ken, in de­nen das Sys­tem ei­ne Straf­tat zum ak­tu­el­len Zeit­punkt für wahr­schein­lich hält. In der Pra­xis läuft dies je­doch dar­auf hin­aus, dass ver­mehrt Ba­ga­tell­de­lik­te in Ar­men­vier­teln ver­folgt wer­den. Die durch ver­stärk­te Kon­trol­len her­vor­ge­ru­fe­ne Stei­ge­rung der Kri­mi­na­li­täts­ra­te in die­sen Be­zir­ken wer­tet das Com­pu­ter­sys­tem wie­der­um als er­höh­te Kri­mi­na­li­täts­be­reit­schaft für die Zu­kunft. Dies er­gibt ei­ne Feed­back­schlei­fe, die ob­jek­tiv ge­se­hen die Ef­fi­zi­enz der Strei­fen­po­li­zis­ten er­höht. Al­ler­dings stellt sich die Fra­ge, ob es tat­säch­lich wün­schens­wert ist, die knap­pen Res­sour­cen durch die Ver­fol­gung von Ba­ga­tell­de­lik­ten zu bin­den, an­statt sie zur Ver­hin­de­rung von Ge­walt­ver­bre­chen zu nut­zen.

Die pro­mo­vier­te Ma­the­ma­ti­ke­rin O’neil war jah­re­lang in der Wis­sen­schaft tä­tig, be­vor sie als Ana­lys­tin in der Fi­nanz­in­dus­trie ar­bei­te­te. Nach Aus­bruch der Fi­nanz­kri­se en­ga­gier­te sie sich in der Oc­cu­py-be­we­gung und gilt seit­dem als schar­fe Kri­ti­ke­rin von Da­ta Sci­ence. Sie schafft es, auf ma­the­ma­ti­sche For­meln zu ver­zich­ten und kom­ple­xe Zu­sam­men­hän­ge schlüs­sig zu er­klä­ren. Eben­so ge­lingt es ihr, po­si­ti­ve Ein­satz­mög­lich­kei­ten für die in Ver­ruf ge­ra­te­nen Al­go­rith­men zu skiz­zie­ren. Ein­zi­ger Wer­muts­trop­fen die­ses Bu­ches ist die Fi­xie­rung auf die USA. Man­che der be­schrie­be­nen Sze­na­ri­en sind, meist auf­grund stren­ge­rer Da­ten­schutz­ge­set­ze, mo­men­tan nicht eins

zu eins auf Ös­ter­reich über­trag­bar. Auch wenn dies zu­nächst be­ru­hi­gend klingt, ist es den­noch wich­tig, die Si­tua­ti­on in den USA zu ver­ste­hen. Denn auch vie­le eu­ro­päi­sche Bür­ge­rin­nen nut­zen die Di­ens­te Us-ame­ri­ka­ni­scher An­bie­ter und wer­den so­mit auch von de­ren Al­go­rith­men er­fasst.

Letzt­lich ver­deut­licht die Lek­tü­re die­ses Bu­ches, dass Al­go­rith­men nur so mäch­tig sein kön­nen wie die Da­ten­ba­sis, die ih­nen zur Ver­fü­gung ge­stellt wird. O’neils Buch leis­tet des­halb ei­nen wich­ti­gen Bei­trag zur Di­gi­ta­li­sie­rungs­de­bat­te. Denn nur wenn die Kon­se­quen­zen ei­nes un­be­schränk­ten „Da­ten­reich­tums“wirk­lich ver­stan­den wer­den, kann ei­ne ernst­haf­te ge­sell­schaft­li­che Dis­kus­si­on über die­ses abs­trak­te The­ma statt­fin­den. S. K. Al­go­rith­men: Ge­fah­ren

40 O’neil, Ca­thy: An­griff der Al­go­rith­men. Wie sie Wah­len ma­ni­pu­lie­ren, Be­rufs­chan­cen zer­stö­ren und un­se­re Ge­sund­heit ge­fähr­den. Mün­chen: Han­ser, 2017. 345 S., € 24,- [D], 24,70 [A]

ISBN 978-3-446-25668-2

„Um si­cher­zu­stel­len, dass ein Al­go­rith­mus wie be­ab­sich­tigt funk­tio­niert, müs­sen wir uns bei sei­ner Ent­wick­lung nicht nur um den In­put der be­trof­fe­nen Par­tei­en be­mü­hen und re­la­ti­ve Schä­den ab­wä­gen, son­dern auch Nor­men schaf­fen, um Al­go­rith­men zu prü­fen,...

Newspapers in German

Newspapers from Austria

© PressReader. All rights reserved.