Der Algorithmus, mit dem man mitmuss
Am Grazer Know-Center wurde kürzlich ein vier Millionen schweres Forschungsprojekt gestartet, um Entscheidungen künstlicher Intelligenz transparenter zu machen und die Privatsphäre der Nutzer zu schützen.
Auch wenn man es nicht merkt, künstliche Intelligenz (KI) ist längst in unseren Alltag integriert. Wenn wir mit maßgeschneiderten Kaufempfehlungen von Amazon beglückt oder von Fahrerassistenzsystemen beim Überholen unterstützt werden, den neuen Job, einen Kredit oder eine ärztliche Diagnose auf Empfehlung von Algorithmen bekommen, steht dahinter immer KI. Sie liefert Ergebnisse auf der Basis riesiger Datenmengen und ist damit oft viel treffsicherer als die jeweiligen Fachleute. Eines der Probleme dabei: Sowohl für Experten als auch für normale Nutzer ist es meist schlicht unmöglich, diese Ergebnisse nachzuvollziehen und damit auch kritisch zu hinterfragen.
Datengetriebene künstliche Intelligenz ist extrem komplex und der Weg von den Daten zum Analyseergebnis kaum verständlich. „Wie die KI arbeitet, ist derzeit nicht sehr transparent“, bestätigt Christian Rechberger vom Institut für Angewandte Informationsverarbeitung und Kommunikationstechnologie
der TU Graz. „Man bekommt eine Empfehlung für diese oder jene Entscheidung, nachdem die KI eine riesige Datenmenge analysiert hat – das kommt aber gewissermaßen einer BlackboxEntscheidung gleich.“
Um Licht in diese Blackbox zu bringen, ist noch sehr viel Forschung nötig. Aus diesem Grund hat die Österreichische Forschungsförderungsgesellschaft (FFG) das mit vier Millionen Euro dotierte Comet-Modul „Data Driven Artificial Intelligence“ausgeschrieben. Konkret soll in diesem vierjährigen Projekt die Basis für erklärbare, verifizierbare und zugleich die Privatsphäre schützende KI-Algorithmen gelegt werden.
Die Wege der KI
Den Zuschlag für die Umsetzung des ambitionierten Forschungsvorhabens bekam das Grazer KnowCenter (Research Center for DataDriven Business & Big Data Analytics). Wie man die Entscheidungen von KI-Systemen nachvollziehbar machen will? „Die technisatz sche Herausforderung dabei sind die komplexen Entscheidungswege der KI-Systeme“, erklärt Christian Rechberger, der neben seiner Professur an der TU Graz auch für Data-Security am KnowCenter zuständig ist und am neuen Projekt mitarbeitet. „Damit sie für einen Laien aussagekräftig werden, müssen sie erst vereinfacht und zusammengefasst werden.“Was eben keine triviale Aufgabe ist.
Zusätzlich auf der Forschungsagenda steht die Entwicklung von KI-Algorithmen, mit denen die Privatsphäre geschützt werden kann. „Je größer der Datenpool ist, auf den die KI zugreifen kann, desto besser funktioniert sie auch“, erläutert Christian Rechberger. „Für die in der Wirtschaft eingesetzte KI wäre es deshalb optimal, wenn sie mit den Daten unterschiedlicher Unternehmen arbeiten könnte“.
Das sei aber aus Datenschutzund Wettbewerbsgründen oft nicht möglich. Welcher Unternehmer will schon seine Daten der Konkurrenz präsentieren? „Der Einvon Kryptografie erlaubt es jedoch, gemeinsam mit einem großen Datenpool zu arbeiten, ohne die Daten der anderen Unternehmen entschlüsseln zu können.“Ein Verfahren, das zurzeit noch teuer ist und selten genutzt wird. „Wir wollen es in den kommenden vier Jahren deutlich günstiger und effizienter machen.“
Kleinere Einstiegshürden
Damit werden sich auch die Hürden für Unternehmen beim Einstieg in die Welt der künstlichen Intelligenz etwas verkleinern. „Unsere Forschung soll es den Firmen erleichtern, sich durch die Analyse eigener Daten mittels KI Wettbewerbsvorteile zu schaffen“, betont die Leiterin des Know-Center, Stefanie Lindstaedt. Daten gelten heute als „das neue Gold“, das es zu schürfen gilt – und KI ist dafür das ideale Werkzeug.
Dass sich durch deren rasante Entwicklung auch tiefreichende ethische und gesellschaftliche Fragen etwa nach Demokratie, Freiheit und Menschenwürde auftun, liegt auf der Hand – aber das ist eine andere Geschichte.
Als Industriepartner ist neben Magna Steyr, AT&S, dem niederländischen Halbleiterhersteller NXP und einem britischen Blockchain-Unternehmen auch AVL List am Comet-Modul beteiligt. „Wir haben riesige Datenmengen aus unterschiedlichen Quellen, die nicht vermischt werden dürfen“, berichtet Gerhard Schagerl, Produktlinienmanager für DataIntelligence bei AVL List. „Hätten wir effiziente Möglichkeiten zur Nutzung dieser Daten, könnten wir damit einen enormen Mehrwert generieren.“
Parallel zum offiziellen Projektstart fand mit der AI-Know auch die erste internationale Fachkonferenz für Artificial Intelligence in Graz statt. Experten aus den USA, Deutschland und der Schweiz haben in diesem Rahmen etwa über „Privacy-Preserving Computing“, Visualisierung und Virtual/Augmented Reality sowie globales Grid-Computing referiert, bei dem lose gekoppelte Computer einen virtuellen Supercomputer bilden.