#74 Michael Katzlberger: Spielt KI den Falschen in die Hände?

Anna Kratki: Die Welt dreht sich immer und immer schneller. Mehr Infos, mehr Tools, mehr Technologie - und wir Menschen irgendwo mittendrin. Oft verlieren wir dann den Überblick, aber ausgerechnet die Technik verspricht uns, den Überblick wieder zurückzuholen. Künstliche Intelligenz ist schon längst bei uns in der Welt angekommen und für viele auch gar nicht mehr wegzudenken im Alltag. Während wir aber in Österreich auf den Dächern Solaranlagen bauen, verbrauchen wir richtig viel Strom wie eine Kleinstadt, nur dass wir ein Gedicht mit der KI schreiben lassen. Die Frage ist also, die ich mir heute stelle: Wie verantwortungsvoll gehen wir mit diesem Thema um? Inwiefern ist es gerechtfertigt? Und was bedeutet das eigentlich alles für unsere Zukunft? Deswegen freue ich mich irrsinnig, unseren Gast heute begrüßen zu dürfen. Der versteht nicht nur die KI, sondern sieht irrsinnig viele Chancen in der KI. Und zwar Michael Katzelberger. Schön, dass du da bist.

Michael Katzelberger: Hallo, danke für die Einladung. Michael Katzelberger, ich bin seit über 20 Jahren in der Kreativindustrie tätig. Habe sehr große Kommunikationskampagnen gemacht und mich immer als Brückenbauer zwischen den Technikern und den Kreativen verstanden. Und in dem Sinn so um 2016 herum das Thema KI für mich entdeckt, in der Hoffnung, dass KI eines Tages kreativ sein kann, in sämtlichen Bereichen dann mir beistehen kann, im Bereich der Textgenerierung, Bildgenerierung, Musikgenerierung und so weiter. Und ich finde, das hat ganz gut geklappt. Also der Weg war schon richtig.

Anna Kratki: Ja, definitiv und es ist alles so schnell gegangen und wahrscheinlich geht es noch viel schneller voran, oder?

Michael Katzelberger: Ich gehe davon aus, dass es sich noch weiter beschleunigt, weil so eine Maschine besser skalieren kann als wir Menschen.

Anna Kratki: Wahnsinn. Du kommst ja, du hast es jetzt schon gesagt, eigentlich aus der Werbebranche. Inwiefern hat sich denn die Kommunikation mit der KI verändert?

Michael Katzelberger: Ja, ich würde mal sagen dramatisch. Weil wir die ganzen Produktionsprozesse eigentlich neu denken müssen. Also jeden Bereich - vom Briefing über die Strategie, das Konzept, Kreation, Produktion bis hin zur Auslieferung wird es durch und durch nur von KI durchdrungen sein, der Arbeitsprozess. Und das bedeutet vor allem in den Werbeagenturen, in klassischen Werbeagenturen eine grobe Umstellung. Also eine Transformation, mit der man erstmal zurechtkommen muss.

Anna Kratki: Jetzt hast du vorhin eben auch schon gesagt, dass du jetzt nicht lange eben da schon mit dabei bist, eigentlich halt schon von Anfang an, weil du eben das Potenzial erkannt hast. Hat es einen Moment gegeben, wo du gesagt hast, boah, das verändert wirklich alles?

Michael Katzelberger: Ja, man muss sagen, KI gibt es ja schon länger. Also ich bin ja eigentlich ein Späteinsteiger, obwohl es 2016 passiert ist.

Anna Kratki: Seit wann gibt es die KI?

Michael Katzelberger: Na ja, seit dem letzten Jahrhundert schon, Mitte letzten Jahrhunderts. Hat sich am Anfang eher langsamer entwickelt. Dann gab es auch den sogenannten KI-Winter, wo alles ein bisschen länger gedauert hat, weil die Forschungsgelder nicht da waren. Und dann ist das Ganze wieder explodiert. Und da muss man also Google ganz viel Credit geben, weil die massiv da in die Forschung auch investiert haben. Und so Dinge wie ChatGPT ohne die Forschungsarbeiten von Google gar nicht möglich gewesen wären. Um auf die Frage zurückzukommen, was den Moment angeht: Ja, den gab es wirklich. Also wir haben damals im Unternehmen herumexperimentiert mit KI-Textmodellen, den sogenannten Transformer-Modellen. Und das war zum ersten Mal, dass ich erlebt habe, dass eine Maschine sich selbst was ausgedacht hat, einen Text formuliert hat, der zwar grammatikalisch überhaupt keinen Sinn ergeben ha, aber ich habe gewusst da kommen jetzt hunderte tausende Textzeilen von einer Maschine, die auf ihre eigenartige Art und Weise sehr kreativ sind. Und es war für mich so dieser Aha-Moment, wo ich gewusst habe, okay, wir wissen, das wird sich weiter verbessern und irgendwann wird die Maschine Texte schreiben, die Sinn ergeben. Irgendwann wird sie Werbetexte schreiben, Claims. Und irgendwann ganze strategische Konzepte. Und zu meiner Überraschung ging das dann eh relativ schnell. Aus dem Transformer-Modell wurde nämlich dann zum Beispiel ChatGPT. Das T in ChatGPT steht für Transformer von Google. Und der Rest ist Geschichte.

Anna Kratki: Aber es ist schon irgendwo auch ein bisschen scary, finde ich. Also wie schnell das eben vorangeht. Und wenn man halt das so weiterspinnt, was die Zukunft alles bringen kann.

Michael Katzelberger: Ja, es war eine geniale Erfindung. Also viele sagen, gleichbedeutend wie die Erfindung der Elektrizität. Und den Vergleich finde ich eigentlich sehr gut. Also KI durchdringt jeden Bereich, jede Industrie, jede Branche.

Anna Kratki: Gehen wir mal weiter. Wie glaubst du denn, dass die Zukunft ausschauen wird irgendwann einmal mit der KI? Also wie schaut die Welt aus? Beschreib sie mal.

Michael Katzelberger: Naja, ich hoffe jetzt mal, dass wir in Harmonie mit der Maschine leben. Es ist so, dass meine Befürchtung ist, dass es wenige große Konzerne gibt, die das Thema an sich reißen und daraus enormen Profit schlagen werden und dass die Kleinen auf der Strecke bleiben. Also das war jetzt so meine Befürchtung. Die Hoffnung ist, dass wir sehr viele Probleme lösen können mit der Hilfe der Maschinen, weil sie eben superintelligent sind und werden. Und viele große Probleme, vor denen wir stehen, möglicherweise lösbar sind mit der Hilfe von KI.

Anna Kratki: Jetzt gibt es natürlich auch super viele kritische Stimmen, die eben sagen… Michael Katzelberger Mehr als genug, ja. Anna Kratki .. gerade die Kreativität soll nicht von einer Maschine gemacht werden … Michael Katzelberger Warum? Anna Kratki .. sondern die soll eben von Menschen gemacht werden. Ja, okay …

Michael Katzelberger: Entschuldigung, wie sollte eine KI auf eine gute Idee kommen, um die Probleme der Menschheit zu lösen, wenn sie nicht kreativ ist? Wie soll denn das funktionieren? Geht ja gar nicht.

Anna Kratki: Ja, das stimmt. Aber dadurch haben wir halt einfach echt auch ein Problem, was den Arbeitsmarkt angeht, oder?

Michael Katzelberger: Ja, es ist definitiv so, dass KI dafür sorgen wird, dass viele Arbeitsplätze verloren gehen bzw. ersetzt werden durch Maschinen. Auf der anderen Seite sehr viele neue entstehen werden. Die Frage ist jetzt, ob das im Gleichgewicht ist. Das kann man noch schwer sagen. Aber bei der Transformation… Bei der Digitalisierung war es ja auch so, dass unfassbar viel Neues entstanden ist, oder? Wenn man sich das überlegt, alleine die Einführung des Mobiltelefons, was die bewirkt hat. Oder überleg dir mal, wenn du ein Flugticket kaufst, was da alles dahintersteckt. Wenn du am Handy ein Flugticket kaufst, der ganze Buchungsprozess, die Logistik, Flughafen, Koffer, tausende Berufe, die da dahinter liegen. Also allein, was das bewirkt. Und so kann man sich das bei KI auch vorstellen. Das wird überall drunter liegen. Jeder wird damit zu tun haben, beziehungsweise hat das schon.

Anna Kratki: Jetzt hast du gesagt, dass es wichtig ist, dass wir ein Gleichgewicht finden. Was sagst du, wo liegt da so circa die Grenze zwischen eben sinnvoller Automatisierung und dem Verlust von Authentizität?

Michael Katzelberger: Ja, das ist natürlich ein schmaler Grat. Wenn man jetzt zum Beispiel Journalist ist und sich inspirieren lässt von einer Maschine, um neue Themen für seine Themenwelten zu finden oder wenn man als Journalist recherchiert, dann kann es natürlich sehr hilfreich sein, wenn man den Artikel dann mit der Hilfe von KI ausformuliert. Wenn die KI die ist, die alles vorgibt und der Journalist nur mehr seinen Namen drunter setzt, dann geht diese Authentizität auch verloren. Und ich glaube, da muss man aufpassen. Das ist so ein schmaler Grat. Also wie weit lehnt man sich aus dem Fenster und lässt die KI Dinge erfinden? Und inwieweit besteuert man das noch selber?

Anna Kratki: Da werden ja ganz, ganz viele weitere Türen geöffnet. Wie zum Beispiel eben auch dann: Wie sieht es aus mit den Rechten?

Michael Katzelberger: Ja, das Urheberrecht ist tot, würde ich sagen. Weil jeder, der mit ChatGPT arbeitet, verletzt ja eigentlich das Urheberrecht, aus meiner Sicht, oder? Wenn hier Maschinen arbeiten oder am Werk sind, die mit urheberrechtlich geschützten Daten gefüttert werden und wir täglich damit zu tun haben … Das ist die Frage. Gut, müssten wir jetzt einen Anwalt fragen. Ich bin kein Anwalt.

Anna Kratki: E ist ja gerade auch alles erst im Kommen, also das ist halt das Ding, oder? Es kennt sich noch keiner wirklich aus.

Michael Katzelberger: Ja, ich glaube es ging zu schnell. Der Gesetzgeber wird noch eine Zeit brauchen. Und wie gesagt, da bin der falsche Ansprechpartner, was das Urheberrecht angeht.

Anna Kratki: Jetzt siehst du in der KI irrsinnig viele Chancen, neue Chancen, die man eben mitnehmen kann, weil die einfach wirklich ganz, ganz viel Potenzial haben. Wenn man es jetzt eben aus der Sicht vom Klimawandel her sieht, ist es ja doch irgendwo, ich will jetzt nicht sagen rückschrittlich, aber es verbraucht halt einfach wirklich auch irrsinnig viel Strom. Wie stehst du dazu?

Michael Katzelberger: Ich habe noch keine Studie gefunden, mit der ich etwas anfangen konnte. Es gibt Schätzungen, dass zum Beispiel das Training von GPT-4 so viel Stromverbrauch hat wie eine kleine Stadt im ganzen Jahr. Aber nur fürs Training und nicht für den Betrieb. Man geht davon aus, dass bis 2030 circa der Stromverbrauch so groß sein wird wie der von ganzen Ländern. Was ja auch der Grund ist, warum man verstärkt in Atomkraft investiert, überlegt, neben die Rechenzentren kleine Atomkraftwerke zu stellen, alte reaktiviert, wie das jetzt passiert ist bei Three Mile Island. Und der Verbrauch wird enorm sein.

Anna Kratki: Ist es aber dann deiner Meinung nach gerechtfertigt?

Michael Katzelberger: Ja, es ist die Frage wie man damit umgeht. Wenn man jetzt zum Beispiel sagt, man macht mit KI einen TV-Spot, ein bisschen einen aufwendigeren, der, wenn man den mit echten Menschen, Equipment und professionellen Schauspielerinnen und Schauspielern auf der Insel macht, ein kleines Vermögen kostet. Abgesehen davon passt der CO2-Fußabdruck auch nicht, weil ich die ganze Crew auf die Insel schaffen muss, um dort meine Süßigkeitenwerbung zu drehen. Wenn ich jetzt sage, ich mache das mit KI, ist der Verbrauch wahrscheinlich wesentlich geringer als der, den ich hätte, wenn ich da das Personal hinschicke mit Flugzeugen und Equipment.

Anna Kratki: Das heißt, es ist einfach nur eine andere Herangehensweise.

Michael Katzelberger: Ich glaube, ja. Aber natürlich muss man darauf schauen, dass das Ganze effizienter wird. Und du kannst mir glauben, dass das auch bei den Konzernen ein großes Thema ist. Weil die natürlich auch Interesse daran haben, den Energieverbrauch zu reduzieren, weil ihnen das ja auch alles Geld kostet. Also völlig klar, dass die an effizienteren Methoden, Algorithmen, Chips und so weiter arbeiten. Also das passiert ja schon. Das ist ja nichts, was jetzt insoweit entfernter Zukunft ist.

Anna Kratki: Jetzt wird die meiste Zeit, nehme ich mal an, ebenso Tools wie ChatGPT dafür genutzt, damit man eben Informationen bekommt. Glaubst du aber auch, dass es ein Risiko gibt und ein Risiko birgt, dass KI gezielt für Desinformation genutzt wird? Also wie zum Beispiel die Lobby-Kommunikation oder Greenwashing?

Michael Katzelberger: Ja. Das ist natürlich ein riesiges Thema, weil ich davon ausgehe, dass das auch passiert, beziehungsweise auf TikTok schon sehr gut zu beobachten, die ganze Falschinformation, die überall kursiert. Also aus meiner Sicht ist es eine große Gefahr, wenn das Ganze zu menschlich wird, also wenn ganze Bewegungen daraus entstehen. Also wenn so eine Grassroot-Bewegung entsteht aus dem oder das Astro-Turfing, dass man eigene Bots hat zum Beispiel, die miteinander kommunizieren und ein bestimmtes Thema besetzen und beeinflussen und hinter den Bots wieder eine politische Organisation zum Beispiel steht, die halt ein bestimmtes Thema pushen möchte. Da sind ja dann eigentlich gar keine Menschen mehr am Werk, sondern das sind nur mehr dann KIs, die miteinander kommunizieren, um das Thema zu pushen. Und gerade im Sinne des Greenwashing natürlich sehr attraktiv für die bösen Menschen, die sich mit dem befassen. Ich kann nur hoffen und ich glaube an das Gute in Menschen, dass sie halt mehr auf der hellen Seite und weniger auf der dunklen Seite der Macht unterwegs sind.

Michael Katzelberger: Mhm. Schauen wir uns einmal vielleicht die Zukunft an. Eben, wenn alles gut geht, wie schaut es dann aus? Und wenn alles schlecht geht, wie würdest du sagen, wie schaut es dann aus?

Michael Katzelberger: Ich fange mit dem Schlechten an. Wenn alles schlecht geht, dann leben wir in einem absolut totalitären Staat, wo Menschen unterjocht werden von den Maschinen. Wenn alles gut geht, dann leben wir in Harmonie mit der Maschine, nutzen sie dort, wo sie uns am meisten bringt, und nehmen uns die ganzen repetitiven Arbeiten ab. Es wird ja sehr oft diskutiert, wie hilfreich das ist, dass die ganze schwachsinnige Arbeit von Maschinen übernommen wird. Und ja, wie gesagt, ich glaube an das Gute in Menschen. Ich glaube, dass wir dort den richtigen Weg finden, so wie wir es eigentlich immer geschafft haben, wenn wir neue Technologien erfunden haben, dass man es auch zum Guten nutzt. Es ist wirklich ein zweischneidiges Schwert. Weil du kannst … okay, du erfindest den Laser und kannst ihn nutzen, um dein Auge zu heilen und du kannst ihn dafür nutzen, jemanden tot zu machen. Also es kommt immer darauf an, wie man es nutzt.

Anna Kratki: Was müsste denn passieren, dass die KI ein Werkzeug für eine nachhaltige Zukunft wird? Ist das überhaupt möglich?

Michael Katzelberger: Ja, wahrscheinlich nur, wenn man den Energieverbrauch drastisch reduzieren kann, also wenn das gelingt. Und da wird sehr viel Geld noch in die Hardware-Forschung auch fließen müssen, damit das passiert.

Anna Kratki: Also du bist auch der Meinung, dass, genauso wie es einmal geheißen hat, World Wide Web wird sich nicht durchsetzen, dass wir so wahrscheinlich in 20 Jahren uns das Interview anschauen und sagen, lustig, dass wir uns überhaupt diese Fragen gestellt haben. Natürlich ist klar, dass sich das durchgesetzt hat.

Michael Katzelberger: Ja, man muss dazu sagen, dass wir halt in Österreich jetzt relativ wenig Einfluss auf das haben, was da im Silicon Valley passiert. Also so ehrlich muss man schon zu sich selbst sein. Also selbst wenn man da jetzt Forderungen stellt und Ideen hat, muss man die dorthin tragen und nach China.

Anna Kratki: Jetzt haben wir irrsinnig viel schon über die Risiken gesprochen. Wo sagst du denn, wo sind denn die größten Chancen? Wo ist eben wirklich der Markt dazu da, dass man eben die KI einsetzt und die halt wirklich Gutes bewirken kann?

Michael Katzelberger: Ja, es gibt so viele irre positive Beispiele. Also Medizin wird sehr oft zitiert. Also Hautkrebserkennung zum Beispiel die hervorragend funktioniert, also im frühen Stadium schon. Indem man Haut fotografiert und die KI Pixel für Pixel durchgeht und Probleme findet. Dann natürlich, wir nutzen alle täglich unser Smartphone. Ich meine, was täten wir ohne Handy mittlerweile? Google Maps, Stauerkennung, tausende Dinge auf unserem Handy, die mit KI funktionieren, sehr gut. iPhone entsperren mit dem Gesicht, auch ein KI-Service. Die Vorschläge auf Netflix, die wir täglich bekommen, die zu unserem Sehverhalten passen. Die Vorschläge auf Amazon und Zalando, die wirklich schon so was von punktgenau individualisiert sind. Also tausende Beispiele, wir nutzen sie ja eh schon die ganze Zeit.

Anna Kratki: Was ist so ein Argument, das du immer bringst, wenn dir jemand begegnet, der dem negativ gegenübersteht?

Michael Katzelberger: Ja, das passiert mir dauernd.

Anna Kratki: Du bist voll der Buhmann wahrscheinlich.

Michael Katzelberger: Ja sicher, ich bin ein Buhmann, weil ich das Ganze nach außen trage. Ja, dann versuche ich, das Ganze möglichst positiv zu besetzen. Also ich versuche, die Leute zu motivieren, sich mal mit dem zu beschäftigen. Weil in den meisten Fällen ist es ja so, dass die, die dem Ganzen negativ gegenüberstehen, nicht gebildet genug sind, was das Thema angeht. Also wenn sie sich das mal anschauen würden, was da alles dahintersteckt, und welche Forschungsarbeit dahintersteckt, dann würden sie das vielleicht anders bewerten. Also ich glaube, dass Angst da echt ein großes Hindernis ist auf dem Weg dorthin, das positiv zu sehen.

Anna Kratki: Angst vor dem Ungewissen.

Michael Katzelberger: Ja, und da sind wir in Österreich halt sehr speziell unterwegs, dass immer alles, was neu ist, ist schlecht.

Anna Kratki: Ja, ich glaube halt, dass schon auch die Angst mitspielt, was du vorhin auch schon gesagt hast, dass eben die Kleinen auf der Strecke bleiben und die Großen profitieren.

Michael Katzelberger: Ja, wobei man dazu schon sagen muss, dass, wenn man sich das im Detail anschaut, dass es da schon zu einer Demokratisierung gekommen ist. Weil jetzt jeder Student, jeder Schüler theoretisch einen Hollywood-reifen Werbespot herstellen kann, was früher undenkbar war, was nur mit Zehntausenden, Hunderttausenden von Euro möglich gewesen wäre. Also man kann jetzt nicht sagen, dass die jetzt auf der Strecke bleiben. Im Gegenteil, jetzt hat plötzlich jeder Schüler eine Riesenchance, was daraus zu machen, aus seinen kreativen Gedanken zum Beispiel jetzt, wenn wir jetzt bei einem Werbespot bleiben oder bei einem Musikstück, wo du früher eine Tonstudio brauchst, wo du eine ganze Band brauchst, um deine Idee zu verwirklichen. Und das geht jetzt für 20 Euro im Monat. Also das ist nicht ohne.

Anna Kratki: Aber welche Ausbildung würdest du dann brauchen generell, wenn dann eben nämlich auch die ganzen Ausbildungen eigentlich wegfallen?

Michael Katzelberger: Ja, so viele Ausbildungen gibt es hierzulande gar nicht, die man da in Anspruch nehmen kann. Also ich würde auf jeden Fall empfehlen, Online-Schulungen zu machen - und da auch oft direkt zum Hersteller zu gehen. Also Chat-GPT-Schulungen zum Beispiel direkt bei OpenAI zu machen. Oder die von Google direkt auf der Google-Website zu machen. Damit man da jetzt keine Verzerrungen hat, was die Informationsweitergabe angeht. Also das kann ich nur empfehlen und da werden viele einen Aha-Moment haben.

Anna Kratki: Ich habe jetzt eigentlich die Frage so gemeint, dass es quasi keine Ausbildungen mehr benötigt, weil ja dann jeder eigentlich eh mit der KI eben was…

Michael Katzelberger: Naja, du musst ja lernen, wie das alles funktioniert.

Anna Kratki: Also es müsste mehrere Ausbildungen geben, die sich dann mit künstlicher Intelligenz befassen.

Michael Katzelberger: Ich sage immer dazu, es braucht da eine vernünftige Grundausbildung. Wie willst du zum Beispiel ein KI-Bild prompten - also prompten heißt mit Texteingabe ein Bild erstellen -wenn du keine Ahnung von Fotografie hast zum Beispiel oder keine Ahnung von Kunst oder das Basiswissen fehlt, wie man Licht richtig setzt oder was eine Polaroid-Kamera ist, wenn du den Effekt erzielen willst zum Beispiel.

Anna Kratki: Okay, also es ist eben nicht so, dass das dann komplett wegfliegt, sondern eben einfach auch anders gedacht werden muss.

Michael Katzelberger: Genau, weil es sonst zu generisch wird. Also stell dir vor, wenn jeder den gleichen Prompt eingibt, weil er den irgendwo auf LinkedIn gelesen hat, dann kommt aber immer der gleiche Text raus oder das gleiche Bild. Also kreativ sein kann man nur dann, wenn man sich selbst da wirklich Gedanken macht, wie so ein Prompt ausschauen könnte, um sein eigenes Ding hinzukriegen.

Anna Kratki: Das heißt, du bist nicht der Meinung, dass die Kreativität auf der Strecke bleibt und dass das dann alles ein Einheitsbrei wird?

Michael Katzelberger: Absolut nicht. Du kannst ja auch mit eigenen Daten zum Beispiel arbeiten. Sagen wir mal, du wärst eine gute Illustratorin. Dann fotografierst du deine Bilder, spielst das ein, trainierst die KI mit deinen Bildern und erzeugst neue auf Basis deiner Werke. Weißt du, wie cool das ist, wenn du das dann auch noch erweitern kannst und wenn aus deinen Illustrationen plötzlich eine kleine Miniserie wird für Netflix. Alles möglich.

Anna Kratki: Also da kommt man ja wirklich vom Hundertste ins Tausendste, oder, bei diesem Thema?

Michael Katzelberger: Voll. Man wird wahnsinnig, weil es zu einer absoluten Informationsüberflutung kommt in dem Bereich. Und meine Empfehlung ist da immer, sich auf ein bestimmtes Thema zu konzentrieren und das dann versuchen auszufüllen. Also wenn ich jetzt zum Beispiel Tontechniker bin, dass ich mich mal intensiv mit der Synthetisierung von Stimmen beschäftige oder Musik. Und dass man mal bei dem Thema bleibt und das einmal einen Monat lang sich im Detail anschaut. Und dann auf zum nächsten Thema. Wobei ein Monat eh schon relativ wenig ist.

Anna Kratki: Jetzt ist schon sehr oft eben ChatGPT gefallen. Ich glaube, das ist auch die KI, die am gängigsten ist bei den Otto-Normalverbraucherinnen. Da sagt man ja auch oft, dass die halluzinieren. Also dass die quasi auch dann teilweise irgendwas ausspucken.

Michael Katzelberger: Man muss sagen, dass die erste Version von ChatGPT, die hat enorm halluziniert. Da waren ja sämtliche Angaben falsch. Also viele Menschen haben ChatGPT genutzt wie eine Suchmaschine, um dann drauf zu kommen, hey, ich hab da meinen Namen eingegeben und da kam irgendein Blödsinn raus. Ja, war so. Aber mittlerweile ist es so, dass die neuen Modelle, die sogenannten Reasoning-Modelle, diese Halluzinationen schon teilweise beseitigt haben. Ich sage jetzt nicht komplett beseitigt, weil so ist es nicht. Das wäre gelogen. Aber diese Reasoning-Modelle über das Nachdenken, was sie tun und recherchieren können auch, im Netz nachschauen: Ist der Name auch richtig? Ist diese Jahreszahl auch richtig, die ich hier ausgegeben habe? Und du die einzelnen Arbeitsschritte nachverfolgen kannst sogar. Du hast die ganzen Quellenangaben dabei. Also das erleichtert die Recherche schon enorm. Und ich glaube, die Maschinen werden weiter halluzinieren, genauso wie es die Menschen machen, die Dinge falsch wiedergeben oder dass die Vergangenheit vielleicht ein bisschen verwaschen ist, weil man sich doch schöner an Dinge erinnern möchte, als sie eigentlich waren vielleicht. Und sowas wird es bei der Maschine auch geben, dass die Informationen nicht immer ganz korrekt sind. Aber diese Modelle sind einfach so aufgebaut. Das ist kein Taschenrechner, der immer das gleiche Ergebnis liefert. Der liefert jedes Mal ein neues Ergebnis. Also du wirst nie den gleichen Text kriegen, wenn du etwas eingibst.

Anna Kratki: Das heißt, ein menschlicher Double-Check ist trotzdem immer ganz wichtig?

Michael Katzelberger: Absolut. Unfassbar wichtig, das Ganze nochmal durchzugehen, ob tatsächlich alles stimmt. Ich weiß, das wird schwierig, wenn man eine wissenschaftliche Arbeit schreibt und dann 300 Seiten durchgehen muss. Aber ich würde es auf jeden Fall im derzeitigen Stadium noch empfehlen, das zu tun.

Anna Kratki: Ja, also das habe ich mir auch schon oft gedacht. Also mein Bachelor, meine Bachelorarbeit, die hätt sich eigentlich viel leichter geschrieben mit der KI. Oder ist das nicht so?

Michael Katzelberger: Ja, es ist so. Man nennt das Kontextfenster. Das hängt vom Kontextfenster ab. Das heißt, wie viel Information kann die KI in einem Stück verarbeiten? Und das ist derzeit nur begrenzt. Wenn jemand da draußen ist, würde ich auf jeden Fall empfehlen, das Claude-System auch im Detail anzuschauen. Das kostet, glaube ich nur 20 Euro im Monat. Und das ist wirklich großartig, wenn es um die Formulierungen auf Deutsch geht. Das heißt, man hat vielleicht vorher mit ChatGPT recherchiert oder mit Google Gemini. Aber wenn man wirklich smarten deutschen Text braucht, dann sollte man Claude verwenden.

Anna Kratki: Okay, das haben wir uns alle gemerkt. Ich habe noch eine Frage auf meiner Recherche oben stehen. Und zwar, was wäre denn für dich eine gelungene ethisch verantwortungsvolle KI-Kommunikation? Gibt es das? Und wie würde die dann ausschauen?

Michael Katzelberger: Also da kommt es ja schon mal darauf an, mit welcher KI man arbeitet. Ob das eine KI ist, die westlich ist und westliche Werte hat und eine liberale Einstellung. Oder ob es eine fernöstliche ist, die wieder ein ganz anderes Wertesystem hat. Oder vielleicht sogar eine Trump-KI, die komplett ihre Werte hat, komplett kapitalistisch ausgerichtet ist. Also ich glaube, da geht es mal darum, dass man mal herausfindet, welche passt zu mir, oder?

Anna Kratki: Aber ist es dann verantwortlich, wenn eben die KIs alle so unterschiedlich trainiert werden können?

Michael Katzelberger: Naja, die Frage wird dir wahrscheinlich jeder anders beantworten. Trump wird wahrscheinlich sagen, meine KI ist die beste, oder? Und die Greateste. Die wird aber möglicherweise auch die Antwort geben, dass Solarstrom völlig für nichts ist. Und dass der beste Weg, Energie zu erzeugen sicher Atomstrom, Gas und Öl ist. Also es kommt immer darauf an, wie man die Maschine trainiert. Mit welchen Werten man sie auflädt, mit welchen Datensätzen man sie trainiert. Und das ist wahrscheinlich eines der größten Themen überhaupt.

Anna Kratki: Ja, man sieht einfach, wie du es vorhin schon gesagt hast, dieses Thema hat auf der einen Seite extrem viele Chancen, auf der anderen Seite eben auch sehr, sehr viel Risiken. Und ich habe so ein bisschen das Gefühl, es ist so ein Katz-und-Maus-Spiel.

Michael Katzelberger: Und es ist halt leider von uns auch schwer beeinflussbar. Wir wissen nicht, mit welchen Trainingsdatensätzen in Wahrheit GPT und Google Gemini gefüttert werden. Wir wissen es nicht. Das ist nicht transparent. Was vielleicht auch eine wichtige Forderung wäre. Macht es bitte endlich transparent. Sagt uns, was da drinsteckt.

Anna Kratki: Das bringt mich eigentlich jetzt ganz gut zur letzten Frage. Und zwar, was du dir persönlich wünschst mit oder ohne KI?

Michael Katzelberger: Was ich mir auf jeden Fall wünsche, ist ein harmonisches Zusammenwirken. Ich wünsche mir, dass es auch gesetzliche Regulierungen gibt. In dem Sinn, dass man zum Beispiel, passt gut zu euch, auch einen Energieausweis zum Beispiel macht für ein KI-System. Dass der Konsument selbst entscheiden kann, für welches entscheide ich mich, welches hat eine bessere Energieeffizienz. Ich meine, wenn wir das für einen Kühlschrank hinkriegen und für einen Fernseher, dann können wir es ja auch für ein KI-Modell hinkriegen, weil wir ja sehr genau wissen eigentlich, wie viel Strom verbraucht wird. Also hier könnte man mal eine faire CO2-Steuer auch einführen, die sich bemisst nach der Effizienz, mit der ein Modell trainiert wird. Das würde ich sehr fair finden für die Zukunft. Und dann muss man sich natürlich auch überlegen, muss ich für jeden Blödsinn KI einsetzen? Also ich könnte vielleicht ein Katzenvideo weniger machen und damit das Klima schonen, jetzt wenn ich ganz ehrlich bin. Und ja. Und ich glaube, dass es riesige Chancen birgt, also auch im Bildungssystem, die wir noch nicht einmal aufgegriffen haben. Also wir wissen schon, dass sehr viele Schüler und Studenten KI einsetzen, aber noch nicht in dem Ausmaß, weil sie ja nicht wirklich unterrichtet werden in dem Bereich. Also da könnte man sehr, sehr viele Schüler begeistern dafür, da bin ich mir ganz sicher. Wenn ich jetzt zum Beispiel in Mathematik keine großartige Begabung habe und mir Schritt für Schritt eine bestimmte Formel erklären lasse von der Maschine, weil es der Lehrer vielleicht nicht hinkriegt. Also Riesenchance für viele Schüler auch, denen man die Nachprüfung ersparen könnte, wenn man KI richtig einsetzt.

Anna Kratki: Also wie man sieht, ein extrem großes und spannendes Thema. Es wird noch irrsinnig viel auf uns zukommen. Und ich würde mich irrsinnig freuen, wenn wir dich wiedersehen werden, hier im Podcast, vielleicht in ein, zwei, drei, vier Jahren. Und dann darüber sprechen, was sich denn alles getan hat. Und so vielleicht so einen kleinen Rückblick machen.

Michael Katzelberger: Ja, sehr gerne. Es wird sehr viel passieren und es wird sehr schnell gehen jetzt.

Anna Kratki: Ja, wir sind schon wieder am Schluss angekommen und kurz vor Schluss haben wir noch den oekostrom AG-Kurzschluss für dich vorbereitet. Das bedeutet, unser Gast bekommt jetzt fünf ganz schnelle Fragen gestellt und du darfst ganz spontan antworten. Papierkalender oder App?

Michael Katzelberger: App.

Anna Kratki: Weil?

Michael Katzelberger: Weil es geräteübergreifend wesentlich praktischer funktioniert.

Anna Kratki: Hätte Mich jetzt auch gewundert, wenn es ein Papierkalender bei dir gewesen wäre.

Michael Katzelberger: Geile Frage.

Anna Kratki: Bauchgefühl oder Excel-Tabelle?

Michael Katzelberger: Bauchgefühl. Da glaube ich ganz fest dran. Das hat immer recht.

Anna Kratki: Optimieren oder loslassen?

Michael Katzelberger: Optimieren, weil die Zeit begrenzt ist.

Anna Kratki: Podcast oder Buch?

Michael Katzelberger: Aktuell Podcast, weil ich da voll reingekippt bin, was früher nicht der Fall war. Früher hätte ich gesagt Buch, aber jetzt Podcast.

Anna Kratki: E-Mail oder Anruf?

Michael Katzelberger: Lieber E-Mail, weil dann habe ich alles schön aufbereitet und kann einmal darüber nachdenken über meine Antwort.

Anna Kratki: Ah ja, spannend. Hey lieber Michael, vielen lieben Dank, dass du heute bei Geladen warst. Es hat irrsinnig viel Spaß gemacht, mit dir zu quatschen. Falls es euch gefallen hat oder ihr vielleicht Menschen kennt, die das Thema auch interessiert, einfach weiterleiten. Und ansonsten freuen wir uns natürlich immer, wenn ihr ein Like oder ein Abo dalasst. Und wir sehen uns das nächste Mal wieder. Und bis dahin wünsche ich euch noch einen schönen Tag und bis bald.