KI-Forscher Sepp Hochreiter: „Wir verlieren den Anschluss“

FREILICH: Herr Professor, Sie sind auf einem Bauernhof in Bayern aufgewachsen und hätten ursprünglich den Hof übernehmen sollen, sind dann aber doch KI-Forscher geworden. Wie kam es dazu, woher stammt das Interesse an der neuen Technologie?

Werbung

Sepp Hochreiter: Das ist eine lange Geschichte (lacht). Wenn ich das ganz kurz zusammenfasse: Ich bin am Bauernhof aufgewachsen, habe mich irgendwann für Schach interessiert und bin dann zu einem Schachklub gegangen. Dort habe ich Gymnasiasten kennengelernt und begonnen, mich für Forschung, Mathematik und solche Dinge zu interessieren. Außerdem gab es zu diesem Zeitpunkt das Buch Gödel, Escher, Bach von Douglas R. Hofstadter, in dem zum ersten Mal KI-Ideen eingeführt wurden. Das hat mich total fasziniert. Im Schachklub hatten wir auch einen Mentor, der uns das KI-Thema nähergebracht hat. Ich bin dann über den zweiten Bildungsweg zuerst an die Fachoberschule und dann an die Fachhochschule gegangen, weil ich mich eben für Mathematik und Computer interessiert habe. Schließlich ging ich an die TU München, aber damals gab es in der Informatik noch keine KI, das Studium war sehr öde und ich konnte mich nicht wirklich dafür begeistern.

Dann kam ich zu Jürgen Schmidhuber, meinem späteren Supervisor, und forschte zu neuronalen Netzen, das sind Netze, die dem Gehirn nachempfunden sind – und das war faszinierend. Da kam etwas Neues raus, keiner wusste, was passiert und wie das genau funktioniert. Das war so spannend, da hat mich das Feuer gepackt, das bis jetzt in mir brennt.

Spätestens mit der Veröffentlichung von ChatGPT ist die Künstliche Intelligenz ganz groß in den Medien. Können Sie bitte für Laien kurz erklären, was Künstliche Intelligenz überhaupt bedeutet?

Bei Künstlicher Intelligenz nehme ich immer eine ähnliche Definition wie Barr und Feigenbaum 1981: Das sind Maschinen, die kognitive Fähigkeiten an den Tag legen, wie wir sie eigentlich Menschen zuschreiben würden, die also lernen, planen, Aufgaben lösen und neue Fähigkeiten erwerben können.

Wie unterscheiden sich denn Mensch und Maschine beim Lernen?

Werbung

Es gibt sehr große Unterschiede. Der Mensch lernt, indem man ihm zeigt, wie er etwas machen soll. Er braucht dafür nur zwei, drei Beispiele und sagt dann: „Ah ja, jetzt weiß ich, was du meinst!“ Unsere KI-Systeme können das nicht so einfach tun. Sie brauchen Hunderttausende bis Millionen Beispiele. Der Mensch kann das Erlernte auch in eine andere Umgebung oder Situation übernehmen und findet sich dort zurecht. Maschinen müssen darauf trainiert und mit Daten gefüttert werden. Sie können sich viel schlechter auf neue Umgebungen und Situationen einstellen.

Blicken wir einmal auf die weltweite Lage: Laut einem Bericht der Standford University befinden sich aktuell neun der zehn besten KI-Forschungszentren in China. Verlieren wir hier in Europa den technischen und wirtschaftlichen Anschluss?

Ja, wir verlieren den Anschluss. Wir fokussieren uns gerade stark auf die Regulierungen und Zertifizierungen von KI, aber Geld machen diejenigen, die die KI einsetzen. Wir verlieren den Anschluss nicht so sehr in der Forschung, sondern eher in der Anwendung, weil unsere Firmen KI noch nicht so stark nutzen. Früher hat man mit Karteikarten gearbeitet, jetzt mit Computern. Dieser Prozess verlief langsamer, da hatten wir mehr Zeit. Die KI-Entwicklung ist hingegen viel schneller, da muss man viel schneller schauen, wie man sie einsetzen kann, sonst verliert man am Markt. Da sehe ich die große Gefahr, dass wir in Europa zu langsam sind.

Ein Beispiel: In Linz haben wir die „Self-Normalizing Neural Networks“ veröffentlicht und drei Monate später war das schon bei Amazon im Einsatz. Die konnten dadurch eine Milliarde Umsatzgewinn erzielen. Die amerikanischen Firmen agieren da mit einer ganz anderen Geschwindigkeit. Bei denen geht es nicht mehr um die Frage, ob man vielleicht ein Patent machen könnte, denn bevor das Patent überhaupt durchgeht, existiert bereits eine neue Technologie. Ihnen ist es viel wichtiger, die Expertise und Kompetenz für den Einsatz einer neuen Technologie zu haben und nicht die IP-Rechte („geistiges Eigentum“ – international als „intellectual property“ bezeichnet, Anm. d. Red.). Die IP-Rechte nutzen mir nichts mehr, wenn die Technologie dann bereits zwei Jahre alt und überholt ist. Da sind wir in Europa also ein bisschen zu langsam.

Obwohl: In Amsterdam ist die Situation besser, weil dort Firmen viele Millionen direkt in die KI-Forschung investieren. Zum Beispiel finanziert man damit zehn Leute, die zunächst an der Universität bleiben und erhofft sich dann, dass sie später zur Firma kommen. Ich habe aus Amsterdam gehört, dass das 150 Firmen machen wollen, weil das Konzept so erfolgreich ist. In Österreich und Deutschland denken die Firmen noch: „Ich habe eine Idee und gehe jetzt zur Universität, die machen mir das.“ Sobald die Firma aber denkt, sie hat eine Idee, ist es bereits eine veraltete Idee, weil die Idee nicht direkt aus der Forschung kommt. Nehmen wir ChatGPT: Ich habe seit zwei Jahren gewusst, dass es kommt. Ich hätte es jeder Firma sagen können und wie sie es einsetzen können. Hier wartet man aber, bis man es irgendwo liest oder bis es auf den Markt kommt und denkt sich dann: „Ah ja, das könnten wir brauchen!“ Man könnte viel schneller sein, wenn man die Forschungslandschaft direkt beobachtet und Mitarbeiter auf Konferenzen schickt. Doch Europa denkt nicht so, wir sind noch im alten System.

Das heißt, die Forschung geht immer mehr weg vom akademischen Bereich direkt hinein zu den großen Big-Tech-Konzernen?

Ja, absolut. Bei den besten KI-Konferenzen, wie zum Beispiel NeurIPS, ICML oder ICLR, stammen die meisten Publikationen bei weitem von Google, Amazon und chinesischen Firmen wie Alibaba. Das ist ganz stark von den Firmen dominiert, die viel besser und schneller sind. Es gibt zwei Gründe dafür: Zum einen haben sie bessere Rechenkapazitäten und können dadurch Sachen machen, die für uns an der Universität nicht möglich sind. Dadurch können sie auch viele Forscher von den Universitäten abwerben, also wirklich viele der besten Professoren – mich nicht (lacht). Die sind zu den Firmen gegangen, weil die Ausstattung viel, viel besser ist, sie haben bessere Rechner und kommen an Daten ran, an die wir nicht gelangen. Zweitens zahlen sie natürlich auch viel mehr Geld.

(...)

Die Digitalisierung schreitet voran, der Einsatz von KI nimmt zu. Wie wird sich die Arbeitswelt in den nächsten Jahren oder Jahrzehnten verändern?

Ich glaube, ein gutes Beispiel ist, wie sich früher alles durch die Einführung der Elektrizität oder später durch die Einführung des Computers geändert hat. Manche Prozesse, manche Abläufe werden sehr viel schneller, effizienter und einfacher sein. Früher war es halt der Computer, der schneller rechnen oder besser designen konnte. Die KI wird da noch einmal ein I-Tüpfelchen draufsetzen. Sie wird ein wichtiges Hilfsmittel in der Arbeitswelt sein. Vor allem in der Logistik wird es riesige Änderungen geben, bei den Verkehrssystemen, aber auch im Servicebereich, wo eine KI zum Beispiel meine gesamte Reise buchen wird können. Ganz wichtig ist auch die Energieversorgung, die von KI gesteuert wird, damit uns das Energienetz nicht zusammenbricht. Im Gesundheitsbereich wird der Einfluss der KI auch sehr stark sein, vor allem in der Diagnostik, weil eine KI vieles einfach besser erkennen kann, etwa in der Dermatologie bei Hautkrebs.

Man denke auch an die Prozesssimulation: Es gibt große IT-Firmen, die jetzt mit KI-Methoden große Erfolge haben bei der Simulation von „carbon capturing“, also um CO2 und Kohlenstoff, den man in die Umwelt gepustet hat, wieder rauszuholen. Auch im Bereich der Wettervorhersage machen wir gerade riesige Fortschritte mit KI. Das ist in der Öffentlichkeit noch nicht so bekannt. Wenn Entwicklungen früher vielleicht zehn Jahre dauerten, braucht man jetzt nur noch ein Jahr, weil uns die neuen KI-Methoden so gut dabei unterstützen, neue Prozesse, neue chemische Reaktionen oder neue Geräte zu entwickeln. Da wird sich einiges ändern.

Die KI wird also einige Berufsgruppen ersetzen und zugleich neue entstehen lassen?

Ja genau. Dazu gab es eine interessante Studie in Amerika. Da wurden Firmen befragt, ob sie KI einsetzen oder nicht und dementsprechend in zwei Gruppen eingeteilt. Dann hat man gefragt, wie viele verschiedene Jobs es bei ihnen gibt und wie viele neue Leute sie eingestellt haben. Es hat sich herausgestellt, dass die Firmen, die KI einsetzen, viel mehr Leute eingestellt haben und es dort auch viel mehr neue Jobs gegeben hat. Künftig wird es beispielsweise „Data Scientists“ oder „Prompt Engineers“ geben: Wie arbeite ich am besten mit ChatGPT, wie formuliere ich Fragen und wie stelle ich die Daten zusammen.

Oder wenn in Zukunft KI eine Drehmaschine steuert, braucht es jemanden, der ihr sagt: „Du fährst zu schnell, es braucht mehr Öl, es ist zu heiß, oder Ähnliches.“ Statt einem Lehrling lehrt man es die KI. Es braucht also Leute, die der KI „Feedback“ geben, die die Daten verwalten, aber auch Leute, die die Daten erzeugen. Bei Audi gibt es beispielsweise Fahrer, die herumfahren müssen, weil der Mensch es der KI vormachen muss, damit sie weiß, wie es geht. Es wird also Jobs auf jedem Level geben – von Arbeiten, für die man nur wenig Ausbildung braucht, zum Beispiel Autofahren, bis hin zum Professor.

Wir erleben gerade eine digitale Revolution und die Folgen sind noch nicht abzusehen. Gerade die rasante Entwicklung der Künstlichen Intelligenz bereitet vielen Menschen Sorgen um ihre Zukunft. In der FREILICH-Ausgabe zeigen wir, wie die neuen Technologien unser Leben und unsere Welt verändern werden.

Jetzt abonnieren: www.freilich-magazin.com/abonnieren

Auch abseits der Arbeit haben die neuen Technologien einen großen Effekt auf uns. Vor einigen Jahren gab es eine Studie über den „Google Effect“: Durch die Nutzung von Suchmaschinen würde die Gedächtnisleistung abnehmen, denn wenn wir glauben, dass wir Informationen rasch wiederfinden können, dann vergessen wir sie auch schnell wieder. Heute verwenden wir ChatGPT und bekommen da auch rasche Antworten auf unsere Fragestellungen. Könnte das dann auch negative Folgen für unser Denken haben?

Das kann ich nicht sagen, weil das nicht mein Gebiet ist. Aber ich sehe eine andere Gefahr: nämlich, dass man alles glaubt, was ChatGPT an Antworten ausspuckt. Da muss man aufpassen, denn was rauskommt, sind nicht automatisch Fakten oder die Wahrheit, es sind nur Antworten nach einer statistischen Wahrscheinlichkeit. Es kommt stark auf die Trainingsdaten, die Informationen an, mit denen wir das Programm füttern. Bei neuen Dingen kombiniert ChatGPT etwas, das vielleicht plausibel klingt, aber auch völliger Blödsinn sein kann. Als Beispiel: Ich habe mal meinen Namen „Sepp Hochreiter“ eingegeben und da kam dann raus, dass ich in Schärding geboren sei. Ich habe nochmal bei meiner Mutter nachgefragt – nein, es stimmt nicht, ich bin wirklich in Bayern geboren. Aber es ist plausibel, weil ich Professor in Linz in Oberösterreich bin und Schärding wäre da jetzt nicht ganz weit entfernt. Die tatsächlichen Fakten waren in ChatGPT aber nicht abgespeichert und deshalb ist da irgendwas rausgekommen. Es ist also eine Gefahr, dass die Leute sich zu sehr auf diese Technologie verlassen. Noch gefährlicher ist es beim Tesla, wo man eigentlich noch die Hände am Lenkrad haben muss, aber viele sagen „Das funktioniert doch super“ und verlassen sich auf den Autopilot.

Ein Problem wäre außerdem in der Medizin ein Arzt, der sich bei der Diagnose auch nur noch auf KI verlässt. Das wäre der falsche Umgang mit der Technologie: Zu viel Vertrauen und vielleicht auch die falsche Bedienung.

Im Netz geistern auch immer mehr sogenannte „Deep fakes“ herum, also täuschend echt wirkende Audio-, Bild- und Videoaufnahmen. Nicht nur die Oma könnte da noch leichter Opfer eines Enkeltricks werden, indem ein Programm ihren Enkel perfekt simuliert, auch „Fake News“ können immer einfacher durchs Netz gejagt werden und wenn wir telefonieren, wissen wir vielleicht gar nicht mehr, ob wir mit einem Menschen oder einer KI sprechen. Wie sollte man dieser Herausforderung begegnen, wird die KI unser Vertrauen in die digitale Kommunikation erschüttern?

Ja, ich bin gar nicht Sepp Hochreiter, sondern nur seine KI (lacht). Nein, das kann gut sein, die Gefahr besteht. Das ist eben genau das Problem, dass man nicht mehr Wahrheit von „Fake“ unterscheiden kann. Es gibt jetzt aber auch Systeme, die versuchen, solche „Fakes“ zu entlarven. Das ist wie mit den Viren und Antiviren beim Computer: Zuerst gibt es Viren, dann Antiviren, dann kommen wieder bessere Viren usw. Für den normalen Menschen wird es natürlich immer schwieriger, zu unterscheiden, was nun echt ist und was nicht. Dafür gibt es wieder Maschinen, also KIs, die solche KI-Fakes erkennen.

(...)

Wird es irgendwann möglich sein, dass KI ein eigenes Bewusstsein entwickelt, dass sie sowas wie menschliche Gefühle haben wird? Ray Kurzweil, Director of Engineering bei Google, glaubt ja, dass uns die KI irgendwann als Krone der Schöpfung ablösen wird. Halten Sie das auch für möglich oder ist das Science-Fiction?

Menschliche Gefühle sicher nicht, weil das sind eben menschliche Gefühle, es könnten nur „maschinelle“ Gefühle sein. Ob die KI Bewusstsein hat, ist für mich sehr stark Definitionssache. Bei der letzten NeurIPS-Konferenz hielt der Philosoph David Chalmers einen Vortrag zum Thema „Kann KI Bewusstsein haben?“. Er sagt: „Es sind zwar Ansätze da, aber jetzt noch nicht.“ Bei ChatGPT sieht man, dass es kein Gedächtnis hat: Wenn es einen Satz abarbeitet und ich eine neue Frage stelle, hat es die alte Frage komplett vergessen und fängt von neuem an. Für Bewusstsein brauche ich so etwas wie ein Gedächtnis, das sicher erinnert, früher ist es mir so gegangen, jetzt geht es mir so. Bewusstsein heißt auch subjektive Wahrnehmung. Das ist eine philosophische Frage: Hat eine Maschine eine subjektive Wahrnehmung? Die Wahrnehmung wird anders sein als beim Menschen, das ist klar. Momentan meint Chalmers, gebe es keine Anzeichen dafür, dass KI ein Bewusstsein hat. Das heißt aber nicht, dass es für die Zukunft ausgeschlossen wird. Wie gesagt, es ist auch stark definitionsabhängig. Hat ein Stein Bewusstsein? Ein Baum? Vielleicht bis zu einem gewissen Maß, ich weiß es nicht.

Sie sehen jedenfalls keine Gefahr, dass sich die Technik gegen den Menschen richten wird? Viele haben ja Angst davor, dass sich die KI verselbständigt und wir sie nicht mehr beherrschen können.

Das ist Hollywood. KI kommt nicht aus der Evolution, worauf sie trainiert wurde, hat der Mensch vorgegeben. Er kann sie jederzeit abschalten. Wenn eine KI irgendetwas falsch macht, weil zum Beispiel ein Programmfehler drin ist, dann kann man die KI löschen, weil sie nicht das tut, was man von ihr will. KI konkurriert auch nicht mit uns um die gleichen Ressourcen. Außerdem ist es der KI vollkommen egal, ob ich sie abschalte oder nicht. Es gibt zwar KIs, die sagen: „Wollen Sie abschalten? Bitte nicht“, aber sie sagen das, weil sie den Menschen simulieren. Das schaut dann ein bisschen so aus als hätte die KI Bewusstsein. Das ist aber nur deshalb so, weil sie menschliche Sachen ausspuckt, die vorher in sie eingegeben wurden.

Lassen Sie uns zum Abschluss noch kurz zusammenfassen: Ist KI eher Chance oder Gefahr?

Erst einmal sehe ich sie als riesengroße Chance, einige der großen Probleme unserer Zeit zu lösen. Ich denke da an Klima, Mobilität, Lebensmittel, vor allem auch Gesundheit. Wenn ein Mensch etwas macht, kann er mit der KI vielleicht dreimal so viel machen sowohl in der Forschung als auch in der Produktion.

Es gibt auch Gefahren. Das sind aber nicht immer jene, vor denen sich die meisten da draußen fürchten. Eine Gefahr ist, dass wir uns zu sehr auf KI verlassen und uns so leichter manipulieren lassen, egal ob als Einzelne oder als Gesellschaft insgesamt. Da sehe ich die Gefahren, aber nicht darin, dass die Maschinen die Welt übernehmen und Menschen jagen.

Herr Professor, ich bedanke mich herzlich für das Interview!

Das vollständige Interview mit Prof. Sepp Hochreiter lesen Sie in der FREILICH-Ausgabe 22 „Die digitale Revolution“.