Linzer KI statt ChatGPT
Noch im Vorjahr drohte KI-Pionier Sepp Hochreiter, Österreich zu verlassen. Nun will er mit einer Firma sicherstellen, dass Europa gegenüber den USA und China nicht auf der Strecke bleibt. Als Forschungspartner fungiert die JKU Linz, die bereits über 400 Studierende für künstliche Intelligenz begeistern konnte.
Um einen markigen Spruch war Sepp Hochreiter, Mitbegründer der modernen KI-Forschung, noch nie verlegen. „Wie blöd kann man eigentlich sein?“, polterte der an der JohannesKepler-Universität (JKU) Linz tätige Forscher vergangenes Jahr in Richtung Politik. Nicht zum ersten Mal hatte er die fehlende Finanzierung und Strategie der heimischen Verantwortungsträger kritisiert, wenn es um das Thema künstliche Intelligenz ging.
Mit seinem KI-Modell, das „besser und schneller“als ChatGPT sei, könne er OpenAI, die Firma hinter dem Chatbot, „vom Markt hauen“. Wenn das Geld für die Umsetzung und Weiterentwicklung aber nicht aufgetrieben werden könne, werde er Österreich eben verlassen müssen, drohte der Forscher damals. Dass seine Aussagen tatsächlich Gewicht haben, kommt nicht von ungefähr. Mit Pionierarbeiten in den 1990er-Jahren wurde er in weiterer Folge zu einem der wichtigsten Wegbereiter für moderne Spracherkennung und Textanalyse, die bis heute in jedem Smartphone zum Einsatz kommt.
KI-Zentrum in Linz
Der angedrohte Abgang aus Linz und damit wohl auch der Exodus weiterer Forschender zum Thema künstliche Intelligenz dürfte fürs Erste vom Tisch sein. Denn um die europäische KI-Alternative doch noch von Österreich aus zu verwirklichen, gründete Hochreiter mit dem Entrepreneur Albert Ortig von der Digitalisierungsagentur Netural nun die Firma NXAI. Das Startkapital stammt zu einem guten Teil von der zum KTM-Konzern zählenden Pierer Digital Holding. Dass es in Oberösterreich Menschen gebe, die wie im Silicon Valley denken, das finde er toll, sagt Hochreiter.
Wie hoch die Summe des Mitgesellschafters ist, wollte Ortig auf STANDARD-Nachfrage nicht verraten. Sie sei aber hoch genug, um die Infrastruktur aufzubauen und die notwendige Spitzenforschung und Entwicklung in den nächsten Jahren sicherzustellen. Als wichtigster Forschungspartner ist die JKU Linz mit an Bord. Das ist naheliegend, ist Hochreiter als Leiter des Instituts für Machine Learning dort gut verankert. Über 400 Studierende konnte das 2019 eingeführte Studium „Artificial Intelligence“bereits für sich begeistern – die Nachfrage bleibt laut JKURektor Stefan Koch enorm.
Hochreiter ist überzeugt, dass die aktuell für populäre KI-Anwendungen wie ChatGPT verwendeten Sprachmodelle zu schlagen sind. Denn diese würden auf der sogenannten Transformer-Technologie basieren. Damit hatten sich Sprachmodelle im Gegensatz zur Hochreiter-Erfindung LSTM (Long Short Term Memory) ursprünglich zwar schneller trainieren lassen. Im laufenden, jetzigen Betrieb würden sie aber enorme Ressourcen verschlingen und seien bei komplexen Aufgabenstellungen auch deutlich langsamer und ungenauer als die von Hochreiter propagierte Technologiealternative xLSTM, die auf seiner ursprünglichen Entwicklung aufbaut.
Dass das Linzer Modell mit weniger Rechenaufwand bessere Ergebnisse erzielen könne, liegt Hochreiter zufolge an der zugrunde liegenden Speichertechnologie, die Sprache ähnlich dem menschlichen verbalen Gedächtnis verarbeite. Anstatt jedes einzelne Wort immer wieder in endlosen Ketten abgleichen zu müssen, merke sich xLSTM die Semantik, also die abstrahierte Bedeutung von Text, und könne komplexe und lange Textanfragen deutlich schneller bewerkstelligen. „Während die benötigte Rechenleistung mit unserem Modell linear mit der Textlänge ansteigt, steigt sie bei Transformer-Berechnungen zum Quadrat an“, erklärt Hochreiter.
Doch können die Linzer tatsächlich mit ChatGPT und den dahinterstehenden Firmen OpenAI, Microsoft, aber auch Google und Meta konkurrieren? Laut Albert Ortig, Geschäftsführer der neu gegründeten Firma NXAI, ist es logisch, dass man mit den marktbeherrschenden KI-Firmen zum jetzigen Zeitpunkt nicht in direkten Wettbewerb treten könne. Diesen hätten im Markt nicht nur drei Jahre Vorsprung, sondern auch zig Milliarden Euro in Infrastruktur investiert.
Vielmehr gehe es darum, hier in Europa eine hochkompetitive Technologie zu entwickeln, die in weiterer Folge für KI-Anwendungen in der Wirtschaft und Industrie zur Verfügung stehe, ohne abhängig von den USA oder China zu sein. „Künstliche Intelligenz ist die größte industrielle Revolution, noch viel größer als das Internet selbst. Hier die Hoheit aus der Hand zu geben und sich von irgendwelchen politischen Mächten außerhalb Europas abhängig zu machen, ist äußerst riskant und kurzsichtig“, warnt Ortig.
Revolution mit oder ohne Europa
Das sehe man auch an den schwierigen Wirtschaftsbeziehungen zwischen den USA und China. „Im schlimmsten Fall sind wir komplett abgeschnitten von dieser Revolution, mit all den negativen geopolitischen und infrastrukturellen Auswirkungen“, plädiert Ortig für den raschen Aufbau europäischen Know-hows beim Thema künstliche Intelligenz, aber auch bei der Produktion von Computerchips. Und auch wenn eine solche Anwendung derzeit nicht im Vordergrund stehe: Bewähre sich die in Linz entwickelte Technologie, spreche nichts gegen eine europäische ChatGPT-Alternative und deren Export.
„Die Technologie hinter derartigen KI-Anwendungen lässt sich schnell wechseln, das macht solche Märkte volatil, aber auch spannend“, sagt JKU-Rektor Koch. Auch Hochreiter sieht das so. Da sich noch kein KI-Modell als Standard durchgesetzt habe, könne man die Technologie im Hintergrund austauschen, ohne dass sich für die Nutzer nach außen hin irgendetwas verändere.
Und auch den Investitionsvorsprung bewerten die Firmengründer differenziert. Es stimme zwar, dass die Investitionen und Aufwendungen in Programme wie ChatGPT und der dahinter stehenden Firma OpenAI enorm seien, der überwiegende Teil des Geldes werde derzeit aber mit dem Aufrechterhalten des Betriebes verbrannt. „Es rauschen jeden Tag hunderte Millionen Anfragen herein, das kostet wahnsinnig viel Ressourcen und somit auch Geld“, sagt Ortig.