So funk­tio­nie­ren neu­ro­na­le Net­ze und Deep Le­arning

Neu­ro­na­le Net­ze ah­men die Funk­ti­ons­wei­se des mensch­li­chen Ge­hirns auf der Ebe­ne der Neu­ro­nen nach, wo Sy­nap­sen durch Trai­ning ver­stärkt wer­den oder – im ge­gen­tei­li­gen Fall – ab­schlaf­fen. In der KI ent­spicht das der Ge­wich­tung ei­ner Ver­knüp­fung.

PC Magazin - - Desktop & Software -

Das neu­ro­na­le Netz

„Das“neu­ro­na­le Netz gibt es nicht. For­scher ha­ben vie­le Va­ri­an­ten er­tüf­telt. Im Kern ba­sie­ren sie auf ei­nem künst­li­chen Neu­ron. Das ist ein Ele­ment aus meh­re­ren Ein­gän­gen, an de­nen Wer­te an­lie­gen (wie 0,3 oder 320), ei­nem Ge­wicht, das den Ein­gangs­wert run­ter- oder rauf­rech­net (nor­ma­li­siert) und ei­ner Funk­ti­on, die ei­nen Aus­ga­be­wert be­rech­net.

Die Schich­ten

KI-Ent­wick­ler ord­nen die Neu­ro­nen ger­ne in Schich­ten an (dann spricht man von Deep Le­arning). In der Ers­ten kön­nen Bild-Pi­xel als Ein­gän­ge fun­gie­ren. Sol­len von ei­nem neu­ro­na­len Netz Ge­gen­stän­de „er­kannt“wer­den, hat es vie­le Schich­ten, und je wei­ter die In­for­ma­tio­nen durch die Neu­ro­nen ver­ar­bei­tet wer­den, um so ab­stra­hier­ter ist das Er­geb­nis: Zu An­fang noch Hel­lig­kei­ten und Kan­ten­er­ken­nung, spä­ter dann Ob­jek­te. Ganz am En­de heißt es dann 0,9 für Stuhl er­kannt oder 0,2 für das ist wahr­schein­lich kein Stuhl. Hat das Netz meh­re­re Aus­gän­ge, kann es ver­schie­de­ne Ob­jek­te er­ken­nen.

Mit Ge­wich­ten trai­nie­ren

Um die Ge­wich­te rich­tig ein­zu­stel­len, braucht es vie­le Da­ten, mit de­nen man das Netz füt­tert, das Er­geb­nis ver­gleicht und dann Ve­rän­de­run­gen vor­nimmt. Das ist die Trai­nings­pha­se. Hier ist Fließ­kom­ma-Arith­me­tik wich­tig.

Ma­trix-Mul­ti­pli­ka­ti­on

Ma­the­ma­tisch kann man ein Neu­ro­nen-Netz per­fekt mit Ma­trix-Mul­ti­pli­ka­tio­nen ab­bil­den. Je­de Schicht hat Ein­gangs­wer­te, die ad­diert und mul­ti­pli­ziert wer­den. Am schnells­ten geht das, wenn es gleich­zei­tig pas­siert. Das ist die Do­mä­ne von GPUs und KI-Spe­zi­al­chips wie TPUs.

Newspapers in German

Newspapers from Germany

© PressReader. All rights reserved.