Ep. 42 – Gespräch mit Marcel Gohsen

Marcel_Ewald_Gohsen_Transkript

Simon Frisch

Das Mikrofon geht auf und in den akustischen Raum treten zwei Stimmen. Die eine Stimme, die Sie jetzt hören, gehört dem Vizepräsident für Lehre und Lernen und dem Dozenten Simon Frisch von der Bauhaus Universität. In diesen beiden Rollen werde ich hier auftreten und sprechen, insbesondere mit einem Interesse an der Lehre, an der Gestaltung der Lehre, an den vielfältigen Formen und Formaten, die wir hier an der Bauhaus Universität, das ist ein Klangobjekt, an der Bauhaus Universität haben.

Und heute habe ich Marcel zu Gast. Marcel als wer wirst du denn heute mit mir sprechen?

Marcel Gohsen

Mein Name ist Marcel Gohsen. Ich bin wissenschaftlicher Mitarbeiter an der Professur für Intelligente Informationssysteme. Unter anderem forsche ich zu Themen wie KI, aber auch insbesondere Suche mit KI, Information Retrieval. Aber unter anderem bin ich auch Alumni der Universität. Also ich habe sowohl meinen Bachelor als auch meinen Master hier an dieser Universität gemacht. Das heißt, ich kann aus der Perspektive von Lehre und Lernen berichten.

Simon Frisch

Super. Also du hast hier Lehre erfahren und du lehrst selber auch schon. Du hast hier gelernt und lehrst auch schon. Intelligente Informationssysteme kannst du ein bisschen ausführen. Nicht alle Hörerinnen und Hörer wissen oder können Sie sich darunter was vorstellen?

Marcel Gohsen

Also ein Informationssystem ist letztendlich ein System, was uns tagtäglich begegnet. Darunter fallen Dinge wie Suchmaschinen, also wir Wer schon mal was gegoogelt hat, der hat schon mal mit einem Informationssystem interagiert. Intelligent kommt dann ins Spiel, wenn wir mit maschinellem Lernverfahren über maschinelle Lernverfahren sprechen, aber auch Künstliche Intelligenz, die fallen darunter. Also ein intelligentes Informationssystem ist ein System, was mit Hilfe von Technologien des maschinellen Lernens uns Wissensbedürfnisse beantworten kann unter anderem.

Simon Frisch

OK, fantastisch. Da sind wir schon mitten und du hast es auch schon angesprochen, KI, die beiden Buchstaben sind schon gefallen. Das ist ja AI. Also auf Deutsch ist ja die Künstliche Intelligenz tatsächlich ein Akronym für ein deutsches Wort oder für eine deutsche Bezeichnung.

Simon Frisch

Die Künstliche Intelligenz in der Lehre und im Lernen. Wir haben im Vorgespräch ja auch schon gesagt, dass das uns interessieren wird und die Frage Was macht das mit uns? Was können wir damit machen? Wer sind da wir und wie arbeitet ihr damit? Also das ist eigentlich das, was wahrscheinlich das Konkreteste und Interessanteste erstmal ist.

Marcel Gohsen

Primär wenn wir über die Forschung nachdenken, erforschen wir KI und entwickeln Systeme, die sich von KI Systemen oder von KI Algorithmen bedienen und diese anwenden und wir erforschen, wie sie sich verhalten und wie wir das Beste aus diesen Systemen machen können.

Simon Frisch

Wie genau erforscht man KI Systeme?

Marcel Gohsen

Das ist sehr situationsabhängig, würde ich meinen. Wenn wir über, was jetzt genau mein Steckenpferd ist, über Suchsysteme mit KI sprechen, dann wird man eben prototypische Suchsysteme entwickeln mit Hilfe von KI und dann hat man verschiedene Möglichkeiten zu evaluieren, wie gut denn so ein Suchsystem funktioniert.

Das kann mit dem Menschen sein, dass man wirklich Menschen davor setzt, die suchen lassen, die beobachten, daraus Schlüsse ziehen und darüber berichten. Aber es kann auch rein mathematisch quantitativ evaluiert werden, indem gewisse Metriken berechnet werden, also wie genau die Suchergebnisse funktionieren.

Da gibt es Standardmaße und anhand dieser Maße können wir dann Systeme verbessern und ausbauen und erlangen Wissen über wie man solche Systeme sinnvoll anwenden kann.

Simon Frisch

Okay, baut die also auch selber. Zum Teil des Erforschens gehört auch, dass sie selber baut, zum Teil eben, um rauszufinden, wie das funktioniert. Also das Gebaute kann man ja immer besser verstehen als nur das Benutzte, oder verstehe ich das richtig?

Marcel Gohsen

Genau.

Simon Frisch

Ich versuche jetzt mal mit einer Metapher. Also ich sage jetzt mal so eine Metapher aus der Gärtnerei. Ihr pfropft sozusagen auf Systeme nochmal Eigensysteme auf oder wie und baut dann da eigene Suchmaschinen. Ihr baut die nicht von Grund auf neu oder wie stelle ich mir das vor?

Marcel Gohsen

Also es gibt ja Standard Algorithmen für Teilprobleme von diesen Suchsystemen, Suchmaschinen. Da gibt es einen Algorithmus, der ist quasi 30 Jahre alt und wird bis heute benutzt, weil er eben gut funktioniert.

Und an diesen Systemen sind halt Stellschrauben, an denen man drehen kann. Also das kann ein Zwischenverarbeitungsschritt sein, das kann vielleicht auch ein komplett neuer Schritt, der bisher noch nicht da gewesen sein, den man dazwischen baut oder eine Vielzahl an Stellen, wo man eingreifen kann, wo man Dinge erfinden kann.

Die werden dann zusammengebaut als Komplettsystem und dann erforscht, wie gut sowas funktioniert.

Simon Frisch

Und da baut ihr auch an KI Assistenten. Also ihr erforscht nicht nur, wie sich das alles verhält, sondern ich will jetzt gleich mal auf den Einsatz in der Lehre Also ihr baut auch einen KI Assistenten oder ihr habt jetzt, glaube ich schon eingebaut, als wir vor einem Jahr, glaube ich, miteinander sprachen, da wart ihr dabei, das zu entwickeln. Den gibt es jetzt, das ist ja schön, dass wir jetzt miteinander sprechen, einen KI Assistenten für die Lehre. Kannst du uns den beschreiben, Wie habt ihr den gebaut, wie funktioniert der und so weiter.

Marcel Gohsen

Also erstmal so ein System ist unglaublich wichtig, weil wir jetzt in der Lehre immer wieder damit in Kontakt kommen, dass Studierende diese Systeme benutzen, ob wir wollen oder nicht. Also sprich, ChatGPT und dergleichen ist wirklich in großen Gebrauch bei den Studierenden. Da gibt es auch internationale Studien, die schon sagen, da sind wir im Bereich 80 bis 90 Prozent der Studierenden, die solche Systeme eben benutzen.

So, jetzt kann man natürlich sagen, wir benutzen ChatGPT, um mich bei der Lehre zu unterstützen, aber das gibt natürlich eine Reihe von Probleme. Zum einen wollen wir natürlich nicht, dass dem Studenten alles abgenommen wird an Arbeit, weil da ist der Lerneffekt eben sehr minimal. Zum anderen weicht ChatGPT natürlich von den eigenen Schwerpunkten ab, benutzt andere Nomenklaturen, andere Termini und an der Stelle wollen wir einhaken und diese Kontrolle über diese Sachen wieder an die Lehrenden zurückgeben ein Stück weit aber die Studierenden nicht davon abbringen, dass sie diese Systeme auch benutzen können, weil da gibt es natürlich auch viele Chancen.

Da haben wir eben ein System entwickelt, das funktioniert im Dialog quasi so, wie man es kennt mit ChatGPT, nur dass der Kern, das Wissen, was dieses System vermitteln soll, rein von den Lehrmaterialien stammt. Also wir haben Vorlesungsfolien, wir haben mathematische Formeln, wir haben Figures, also Grafiken, die alle von den Lehrenden erarbeitet worden sind. Mittlerweile unsere Professur unterrichtet über 10 Kurse an verschiedenen Universitäten. Das heißt, wir haben einen großes Spektrum und eine große Menge auch an Lehrmaterialien, auf die wir zurückgreifen können und die bilden das ganze Wissen ab, was unser KI Assistent vermitteln soll.

Und dieses System gibt nicht nur Antworten auf Fragen, sondern führt die Studierende auch so ein bisschen durch diesen Stoff hindurch mit Animationen, mit Highlighting, mit auch ganz wichtig, Einstiegspunkte zu den Skripten. Das heißt, die sollen nicht nur mit diesem Bot interagieren, sondern die sollen wieder zurückgeführt werden zu den Vorlesungsmaterialien, die online zur Verfügung stehen. Das heißt, die geben einen Einstiegspunkt. Wenn du was mehr erfahren willst, hier klick auf den Link, dann bist du direkt an der richtigen Stelle im Vorlesungsskript.

Simon Frisch

OK, wow. Also wir haben ja schon ein paar Mal darüber gesprochen, aber ich glaube, wir müssen das noch ein bisschen entfalten, weil wir das sind letztlich alles elektronische Prozesse, die irgendwie codiert sind, damit sie so und so ablaufen. Und dann produzieren sich da Oberflächen, mit denen können wir interagieren. Also das sind irgendwie alles Interfaces, die da entstehen.

Jetzt ist es glaube ich, schwierig mir vorzustellen, jetzt müssen wir wahrscheinlich Metaphern benutzen. Also ich stelle mir eben vor, ihr habt eine Vorlesung und klassischerweise bereite ich eine Vorlesung vor, Ich mache Sitzung für Sitzung, also ich linearisiere das, Ich sage in der ersten Sitzung mache ich das, in der zweiten mache ich das, in der dritten das und entweder mache ich das einfach nur verbal mündlich. Also das heißt, ich stelle mich vorne hin und erzähle es von Anfang bis Ende und in der Reihenfolge wird dann das Wissen vermittelt. Also genau in der Reihenfolge auch müssen diese Wörter sein. Also nicht das Mittel verwisst. Aber jetzt interessant, der Versprecher, der ist ja eigentlich schon strukturell angelegt im Sinn von man könnte jetzt auch okay, ich mache eine PowerPoint draus, die können die Studierenden auch sich angucken, die ist immer noch linear, da können sie vor und zurückblättern, das ist bisschen wie ein Buch, das können sie in meiner Vorlesung nicht.

Jetzt könnte ich auch noch einen Film draus machen und so weiter und so weiter. Da kann man vor und zurückspulen. Aber ich glaube, der entscheidende Punkt ist, wir müssen jetzt uns vorstellen, dass das nonlinear ist und trotzdem vollständig irgendwie. Und ich glaube, das ist das Entscheidende.

Du hast glaube ich auch gerade gesagt, also zumindest habe ich an der Stelle gehört, die müssen auch wieder zurückfinden oder zurückgeführt werden auf die auf die Vorlesung. Das heißt, es gibt irgendwie einen Faden, der aber der unterschiedliche Reihenfolge der Anfang und Ende irgendwie hat, aber nicht unbedingt am Anfang und am Ende, aber am Ende muss man den ganzen Faden einmal berührt haben. Kann ich mir das so vorstellen.

Marcel Gohsen

Man könnte sich das so vorstellen, aber es soll in erster Linie auch ein System sein, was die Vorlesung, so wie wir es kennen, in ihrer Linearität begleitet und nicht ersetzt. Das ist ganz wichtig.

Simon Frisch

Das ist schon mal wichtig.

Marcel Gohsen

So ein System kann ja auch eigentlich nur funktionieren, wenn ich zumindest mal einige der Termini gehört habe, über die ich was erfahren möchte, weil der Studierende muss ja Suchanfragen an dieses System stellen können. Natürlich kann ich das mit Händen und Füßen beschreiben, was ich suche und auch das klappt manchmal schon, aber das funktioniert natürlich am besten, wenn ich weiß, da wird jetzt was über logistische Regression gelehrt.

Dann kann ich eine Frage an unser System: Was ist denn logistische Regression? Ich habe da Fragen zu und werde dann natürlich eine Erklärung oberflächlich erhalten. Aber der zentrale Punkt ist dann, dass wir wieder zurückkommen zu genau diesem Abschnitt in genau dieser Vorlesung, wo logistische Regression gelehrt wird.

Simon Frisch

Also deswegen ist es auch ein KI Assistent und kein KI Prof. Könnte man sagen an der Stelle. Ganz richtig, weil es gibt eine Linearität. Es gibt den Input an Wissen, an Wörtern, auf die komme ich nicht selber, die werden sozusagen aufgerufen und so weiter. Und dann kann ich nach und zwischen den Vorlesungsteilen mich mit dem KI Assistenten unterhalten.

Marcel Gohsen

Ja, so ist es.

Simon Frisch

Ist es eigentlich der Assistent oder die Assistentin oder wie nennt ihr das?

Marcel Gohsen

Da haben wir schon hitzige Diskussionen geführt auf wissenschaftlichen Konferenzen und da gibt es verschiedene Extrema. Einige sagen, wir sollten überhaupt kein Pronomen vergeben, weil das Ganze zu personalisiert und wir das dann wirklich auf eine persönliche Ebene bringen. Es ist ja eigentlich ein es, ein Ding, etwas, was kein keine Persönlichkeit haben sollte.

Ich sehe das nicht so kritisch. Von mir aus kann man er, sie, they, them dazu sagen. Mir ist das alles recht, sage ich mal. Solange man noch die Unterscheidung hinkriegt, Ich unterhalte mich nicht mit einem echten Menschen, sondern mit einem Algorithmus.

Simon FrischKriegt man die hin?

Marcel Gohsen

Es gibt Probleme dazu. Einige kriegen das nicht mehr hin. Auch da gibt es schon erste Umfragen, wo Leute eben so ein KI System auf sozialer Ebene benutzen, heißt das als Freundin, Freund betiteln und da wirklich soziale Interaktion ausüben.

Natürlich kann es Chancen haben für, ich sag mal, sozial ausgegrenzte Leute, zumindest eine Art der sozialen Interaktion weiter ausüben zu können. Auf der anderen Seite ist natürlich da die Angst, dass dann der Weg zurück zu menschlicher sozialer Interaktion gar nicht mehr gegeben ist. Also dass keine Motivation mehr da ist, dann wirklich auch mit echten Menschen wieder zu interagieren.

Simon Frisch

Ah ja, weil da schon, ja, ja, es gibt diesen Film her, heißt er glaube ich, ich hab jetzt vergessen von wem, mit Joaquin Phoenix ist das glaube ich, wo er eine Beziehung führt mit einer künstlichen Intelligenz, die er als Stimme dann bei sich hat und so weiter und so weiter. Da wird es so ein bisschen ausgerollt und der ist schon eigentlich relativ alt.

Okay, das nur als Frage nebenbei. Das will ich jetzt gar nicht, das will ich jetzt gar nicht unbedingt vertiefen, weil man da jetzt in so anthropologische Fragestellungen kommen, sondern vielmehr nochmal zurück. Wir werden das natürlich immer wieder streifen.

Ich suche immer so nach, wie war es denn bisher und was hat sich verändert und was ist aber strukturell möglicherweise gleich geblieben, um das zu verstehen und dann aber auch misszuverstehen, um dann zu sehen, wo sind die Unterschiede.

Also im Grunde war das ja, ich sag jetzt mal, ich bin am Montag in die Vorlesung gegangen und am nächsten Montag war der nächste Teil.

Da konnte ich ja zwischenzeitlich in die Bibliothek gehen und mit Büchern arbeiten und was ganz ähnliches machen. Ich habe in der Bibliothek mitgeschrieben zum Teil, ich weiß in der Vorlesung mitgeschrieben, ich weiß zum Teil Lautschrift und so weiter, weil ich nicht wusste, wie man schreibt. Und dann habe ich versucht herauszufinden, wie es heißt über Lexika oder sonst irgendwas. Also ich habe noch sehr analog studiert, das war alles noch gedruckt und auf Papier das meiste.

Aber im Grunde habe ich einen relativ schwerfälligen KI Assistenten, nämlich die Bibliothek, bemüht, mir da zu helfen, unter der Woche noch ein bisschen auf den Weg zu kommen und mich sozusagen querlinear oder in andere Bereiche zur Vorlesung zu bewegen.

Und tatsächlich hatte ich auch die Schwierigkeit, dass ich mich in der Bibliothek manchmal in anderen Regalen verlaufen habe und dann interessiert dem oder dem nachgegangen bin und musste immer wieder zurückgeführt werden. Das musste ich allerdings aus eigener Anstrengung tun, Was gleich noch mal mit der Vorlesung zu tun hatte.

Wie macht ihr das mit dem Zurückführen, damit sich die Leute nicht verlaufen?

Marcel Gohsen

Das Zurückführen ist dadurch, dass es ja ein Online System ist, relativ einfach über Hyperlinks, aber auch mit, also wirklich Snapshots von der Vorlesungsfolie, also Folie 1 des Vorlesungsskriptes für Logik und dann wird davon ein Bild angezeigt. Wenn du da jetzt drauf klickst, dann wirst du automatisch weitergeleitet an die passenden Stellen.

Simon Frisch

Also wenn ich auf der Suche gerade nach irgendeinem Teil aus der Vorlesung bin, dann wird immer wieder aus der Vorlesung eingespeist an entscheidenden Stellen. Die KI sagt nicht, jetzt lass uns mal wieder zurückkommen oder sowas. Solche Sachen habt ihr nicht eingebaut, sondern mehr inhaltlichen Verlaufspfaden.

Marcel Gohsen

Ja, also die Vorlesungseinstiegspunkte müssen halt passen zu den Dingen, an denen der Suchende interessiert ist. Und wenn es diese Stellen gibt, dann wird darauf hingewiesen, dass da mehr zu diesem Themenbereich in den Vorlesungsfolien zu holen ist und auch also wirklich dahin motiviert zu Schau doch mal da, da gibt es mehr und da gibt es tiefergehende Informationen und so weiter.

Simon Frisch

Wie füttert ihr denn? Also jetzt habe ich ja das Beispiel mit der Bibliothek gebracht, da ist ja sehr viel Material in dieser Bibliothek, was möglicherweise auch mit der Vorlesung zusammenhängt, von denen aber der vorlesende Prof. Nicht weiß, dass es auch noch interessant ist, wenn ich es heranziehe. Also so hat ja jeder Student, jede Studentin entwickelt da ja so einen eigenen Wissenspfad im Verlauf derselben Vorlesung, weil man sagt hier noch ein bisschen Anthropologie, da ist Biologie dabei und der Kunstgeschichtsprof, wusste aber nicht, dass ich das auch noch mit heranziehen würde und kennt sich vielleicht auch damit gar nicht aus.

Ich mache jetzt mal das Beispiel Geisteswissenschaft. Wie geht ihr damit um? Wie breit ist der Wissensfundus, auf den man zugreifen kann, auf den der Assistent, der KI Assistent zugreifen kann?

Marcel Gohsen

Also ein Aspekt, den wir zu 100 Prozent kontrollieren können, ist der Wissensfundus, der aus unseren Vorlesungsskripten basiert. Da sprechen wir wirklich über einen hohen vierstelligen Bereich an Vorlesungsfolien, über den wir verfügen, den wir entwickelt haben, das heißt, der auch stetig weiterentwickelt wird, weiter gepflegt wird. Da sind wir zu 100 Prozent im Bilde, was an Informationen diesem KI System zur Verfügung steht.

Den Teil, den wir leider nicht kontrollieren können, ist das interne Wissen von Sprachmodellen. Natürlich ist da ein Sprachmodell am Werk, was die Anfragen des Suchenden interpretiert, passende Suchanfragen an die Suchmaschine die wir bereitgestellt haben, stellt und dann die Suchergebnisse passend wieder zusammenfasst und zugeschnitten auf das Suchbedürfnis wiedergibt. Das heißt, natürlich gibt es da Halluzinationen, natürlich gibt es da internes Wissen von dem Sprachmodell selbst, was es hin und wieder gibt und nicht was aus unseren Vorlesungsskripten stammt. Okay, an den Teil muss man wirklich vorsichtig sein und genau analysieren, wann sowas passiert und mögliche Interventionen entwickeln, um dem einzudämmen.

Simon Frisch

Wie ist es aus deiner Sicht? Ist es eine neue Gefahr, dieses Phänomen, was wir Halluzinieren jetzt nennen? Ist es eine neue Gefahr, die wir bisher im Wissenschaftsbetrieb nicht hatten oder wie ist das aus deiner Sicht oder aus eurer Sicht in eurem Team?

Marcel Gohsen

Also ich finde nicht, also um den Vergleich mal zu bringen, wenn ich als Student in der Vorlesung saß und ich habe irgendwas von mir aus Statistik erfahren und bin nicht ganz durchgestiegen, weil es zu schnell ging, habe ich mir so wie du auch Notizen gemacht und bin dann nach Hause gegangen und habe mich dieser Fragen gewidmet und wie habe ich mich die gewidmet? Ich bin nicht mehr in die Bibliothek gegangen, aber ich habe halt passende Suchanfragen auf Google gestellt und dann für viele sehr spezifische Probleme landet man dann in einschlägigen Foren zu mathematischen Problemen zum Beispiel.

Und auch da läuft man Gefahr, über unwahre Informationen zu stolpern. Also nicht jeder, der in diesen Foren seine Meinung kundtut oder seinen Lösungsvorschlag kundtut, macht das auch richtig. Und auch da muss ich unterscheiden, kann ich dem trauen, kann ich dem nicht trauen.

In der Bibliothek hat man es vielleicht ein bisschen einfacher an der Stelle, weil wenn ein Buch darüber geschrieben ist, ist die Wahrscheinlichkeit doch ein Stück weit höher, dass da Expertise dahinter steckt, als wenn ich jetzt einen Forum Beitrag lese oder so. Aber um zurück zu KI System zu kommen, das was da halluziniert wird, muss ich genauso wie ein Forumseintrag darüber mir im Klaren sein, dass das auch einfach falsch sein kann, dass da eben keine Expertise dahintersteckt und dass da Halluzinationen an Werke sind. Aber aus diesem Grund denke ich, ist das kein neues Problem, es ist nur mehr prägnanteres Problem.

Simon Frisch

Ja, interessant. Also sehe ich ganz genauso Und ich habe auch im Grunde die Erfahrung gemacht, selbst, also seit ich in der Wissenschaft tätig bin, Geisteswissenschaft in meinem Fall selbst Bücher, die von also der Streit innerhalb der Disziplinen, ob das stimmt oder nicht und ob man das so oder so auslegen oder beschreiben kann, der zeigt sich ja darin. Also das nennt man nicht halluzinieren, aber in manchen Polemiken werfen sich Kolleginnen und Kollegen auch vor, der anderen würde halluzinieren über dieses oder jenes Problem. Ich bin da ganz eben, ich bin da ganz bei dir. Wahrscheinlich haben wir da, also aus meiner Erfahrung heraus haben wir da kein neues Problem, Aber du hast gerade ganz schön beschrieben, es wird auf eine bestimmte Art sichtbar. Das hat wahrscheinlich Gründe, die kann man wahrscheinlich auch beschreiben und benennen. Das hat vielleicht auch was damit zu tun mit der Schnelligkeit der Dialogizität und dem ganzen performativen Charakter, in dem wir da dann stehen.

Wohingegen, wenn ich eben in der Bibliothek zwei Bücher nebeneinander zum selben Thema finde, manchmal sind die ja thematisch gruppiert, dann kann ich schon auf die Idee kommen, ah ja, interessanterweise, möglicherweise sind da zwei Perspektiven dargestellt, das System ja nicht ab.

Marcel Gohsen

Der Diskurs wird eben nicht mehr dargestellt. Wenn ich eben auf ChatGPT oder dergleichen meine Frage reinschreibe und ich kriege eine falsche Antwort, dann ist zum einen ChatGPT sehr davon überzeugt, dass diese Antwort korrekt ist und versucht mich davon zu überzeugen, dass diese Antwort korrekt ist.

Simon Frisch

Tatsächlich hast du das passiert. Interessant.

Marcel Gohsen

Selbst wenn man Ne, das ist Quatsch, sagt ne, da liegst du leider falsch. Manchmal räumt er sogar Fehler ein und verschlimmbessert dann die Antwort. Aber wenn ich jetzt in einem Forum bin und jemand gibt eine falsche Antwort, dann sehe ich zumindest den Diskurs von Kommentaren, die sagen, nee, das stimmt so nicht Oder andere, die sagen, das stimmt.

Und da findet dann ein Diskurs, eine Debatte statt. Und wenn ich merke, okay, das wird diskutiert, ich bin mir nicht sicher, welche Seite jetzt recht hat, dann sehe ich viel eher den Zweifel, dass ich da weiter tiefer bohren muss, um zur richtigen Antwort zu kommen.

Bei ChatGPT sehe ich das eben nicht. Dann sagt ja, das ist die Antwort, lebt damit, Du liegst leider falsch, Ende der Geschichte. Und dann muss ich eben selber auf die Idee kommen, weitere Quellen zu prüfen, wenn ich mir nicht sicher bin, ob er da recht hat, okay, ich habe.

Simon Frisch

Ich hab mir vorhin notiert, was müssen wir lernen, was müssen wir können. Also es sind ja irgendwie neue Kompetenzen oder zumindest es sind alte Kompetenzen, die wir vielleicht neu aufteilen müssen. Wie geht ihr damit um? Genau, du hast das Stichwort gerade genannt oder du hast es gerade aufgerufen. Diskurs. Wie können wir den Diskurs erhalten und wie macht ihr das im KI Assistenten, dieses Problem?

Marcel Gohsen

Ja, also eine, wie ich finde, sehr, was in erster Linie sehr einfach klingt, aber eigentlich eine sehr schwere Disziplin ist es, den Sprachmodellen beizubringen, zu sagen, ich weiß es nicht, ich weiß es nicht.

Ist ein es klingt erst mal so einfach, aber es ist ein Problem, was diese Sprachmodelle nicht lösen können oder eher selten lösen können.

Und das ist unser Interventionsansatz.

Wenn eine KI darüber transparent ist, welches Wissen ihr zur Verfügung stellt, also externes Wissen, und ich sage, ich habe dazu keine Informationen gefunden, ich kann dir das leider nicht sagen oder hier ist das, was ich denke, aber das weiß ich nicht aus den Vorlesungsskripten, dann ist schon sehr viel gewonnen.

Simon Frisch

Ah ja, das heißt, die KI macht ihre Quellen transparent oder hat da irgendwie einen Reflexionsmodus drin?

Marcel Gohsen

Habe ich das richtig verstanden? Also erstmal Teil der Instruktionen, die das Modell erhält, in Form von einem Prompt ist, wenn du von unserer Suchmaschine eben keine Ergebnisse erhältst, dann sage bitte genau das, Ich weiß es nicht oder ich habe keine Informationen dazu gefunden. Das kann man ja adaptiv diese Instruktion verändern, je nach Ergebnis von den Suchanfragen.

Und da können wir so ein bisschen steuern, dass dieses Modell auch wirklich transparent darüber ist. Ansonsten wird er auch zitiert, so wie wir es aus wissenschaftlichen Arbeiten kennen, also mit eckiger Klammer Zahl und dann hier ist der Link, daher habe ich diese Informationen und da ist auch schon einiges gewonnen. Die stimmen leider auch nicht immer, aber in den Fällen, wo es stimmt, ist sehr viel Transparenz gewonnen, meiner Meinung nach.

Simon Frisch

Ja, also um das nachzuvollziehen, warum das manchmal nicht stimmt und warum das schwierig ist, dass die KI auf die Idee kommt, also so könnte man es ja jetzt mal metaphorisch nennen, dass sie etwas nicht weiß, liegt vielleicht ja daran, soweit ich verstanden habe, dass es ein Wahrscheinlichkeitsmodell ist, aus dem die KI überhaupt ihren Redefluss generiert. Das heißt, Wissen und Nichtwissen ist nicht die Kategorie, in der die KI arbeitet, oder?

Marcel Gohsen

Ja, so ist es.

Simon Frisch

Und jetzt hast du gerade gesagt, eine Information her hat. Ist das überhaupt richtig ausgedrückt? Haben diese generativen Maschinen überhaupt Informationen woher oder sind das eben nicht eher Produktionsvorgänge? Also sie produzieren Text und darin bestehen.

Marcel Gohsen

Sie eigentlich Ja in erster Linie, hast du schon recht, die produzieren eben Wörter, ganz unabhängig davon, ob das jetzt faktisch korrekte Aussagen sind, sondern es reiht einfach Wort an Wort, basierend auf einer Wahrscheinlichkeitsverteilung, dass es aus den Trainingsdaten gelernt hat. Aber dieses Wissen, welches Wort als nächstes wahrscheinlich ist, ist eben Wissen, was das Modell erlernt und gespeichert hat. Das ist das, was wir als externes oder internes Wissen bezeichnen.

Und also wenn ich eben eine Frage habe und eine Antwort dazu ist beschrieben über die Wahrscheinlichkeitsverteilung der also wer ist unser aktueller Präsident in den Vereinigten Staaten? Dann ist die Wahrscheinlichkeitsverteilung für Donald Trump natürlich sehr hoch. Und so ist das nur eine Abbildung des Wissens, wie wir es in natürlicher Sprache wiedergeben, Genauso eine Abbildung des Wissens in dem Sprachmodell selbst.

Jetzt muss man natürlich unterscheiden, wenn wir über externes Wissen reden, das ist ja wirklich was, was sich das Modell ranholt, also über Suchmaschinen zum Beispiel.

Simon Frisch

Das macht das Modell, also das Modell kann Suchmaschinen bedienen. Das wäre jetzt die, das wäre eine Kompetenz, die dazu kommen.

Marcel Gohsen

Ja, also im Endeffekt machen wir das, aber wir das ist ein Zwischenschritt, was das Sprachmodell aus der Eingabe des Suchenden eine passende Suchanfrage oder mehrere passende Suchanfragen extrahieren kann. Und diese Suchanfragen werden ganz klassisch an die Suchmaschine gestellt von uns. Und dann haben wir wieder die Agency darüber, welche von diesen Quellen wir jetzt an das Sprachmodell wieder zurückgeben wollen. Welche sind gute Quellen, welche sind schlechte Quellen? Wir können die neu ordnen. Was ist jetzt die beste, was ist die schlechteste Quelle? Und nach all diesen Zwischenschritten geben wir das Ganze wieder zurück an das Sprachmodell und sagen hier, das sind die Quellen. Bitte beantworte die Frage bestmöglich mit dem Wissen, was wir jetzt aus dieser Suchmaschine erhalten haben.

Simon Frisch

Also ihr schickt es, ihr schickt das Modell in die Schule, das lernt was Bestimmtes und kann dann nachher mit Wissen umgehen. Das ist dann tatsächlich so. Verstehe ich das richtig?

Marcel Gohsen

Das Modell wird in dem Atemzug nicht trainiert, also das heißt, es wird nicht upgedatet, das kann in dem Sinne nichts lernen. Das Modell kann nur einen bestimmten Task vollziehen.

Und das hat es während des Lernprozesses, des Pre-Training Prozesses. Also die Modelle kommen ja schon vortrainiert aus den großen Technologiehäusern. Und die Aufgabe, die das Modell eigentlich nur noch lösen muss, ist eine Zusammenfassung von Quellen bereitzustellen.

Und das ist eines der Hauptprobleme, was im Vortraining quasi trainiert wird, dass Zusammenfassungen gut funktionieren. Natürlich kommt da die Suchanfrage noch ins Spiel von dem Suchenden, aber im Endeffekt reduziert man das sehr komplexe Problem von ich muss diese Frage beantworten zu einem Ich muss diese Quellen nur zusammenfassen, um eine gute Antwort für diese Frage bereitzustellen. Und dadurch vereinfacht sich dieses Problem deutlich mehr.

Simon Frisch

Aha, also ihr zielt darauf, dass das Modell immer stärker lernt. Ich muss diese Quellen zusammenfassen, um zu einer Antwort zu kommen. Das heißt, wir haben im Grunde, also ich verstehe es jetzt gerade so: Erstmal können diese generativen Intelligenzen einfach Phrasen dreschen, die können Konversation betreiben, den ganzen Abend wunderbar parlieren und es ist ein Gespräch, aber im Grunde substanzlos oder substanzvoll, also mehr oder weniger zu. Und jetzt versucht ihr diese Konversation auf Quellen hin zu fundieren. Und da gibt es dann verschiedene Tools. Vielleicht ist das das, was du vorhin sagtest, Rädchen einbauen, hier noch was, da noch was, sodass es dann lernt zu konsultieren, zu gucken und dann eben nicht irgendwas zu sagen, sondern etwas, was mit der Vorlesung zu tun hat. Das lernt das Gerät dann als Wahrscheinlichkeitsoption oder wie? Ich soll jetzt also an der Stelle immer das und das sagen oder wie kann ich mir das vorstellen?

Marcel Gohsen

Nicht so ganz.

Simon Frisch

Ich kann mir das überhaupt nicht vorstellen.

Marcel Gohsen

Also da gibt es keine fertigen Tools. Natürlich gibt es die Tools, aber hat man wenig Agency drüber.

Das ist ein Verfahren, was nennt sich Retrieval Augmented Generation. Das heißt, dass sich die Generation, also das Erzeugen von Text, augmentiere mit Suchergebnissen, also mit Quellen.

Man kann sich das wirklich vorstellen, dass so wie ich ein Prompt in ChatGPT eingebe und sage bitte gib mir eine Zusammenfassung über die folgenden Dokumente und dann gebe ich ihm die Dokumente in das Prompt herein. Es gibt ja mittlerweile auch schon andere Anwendungen, wo man einfach ein PDF hochlädt oder dergleichen, was dann genau das tut.

Und das funktioniert dann vollautomatisch in diesem Verfahren, indem wir eine Suchmaschine bedienen und dann diese Dokumente mit als Instruktion übergeben und mit der Anweisung Bitte beantworte die Frage mit diesen Informationen. Hier sind die Informationen, hier sind die Dokumente und dann konstruiert eben das Sprachmodell eine Antwort darüber.

Simon Frisch

Das Modell muss die Frage dann aber auch erkennen in Hinsicht auf diese Information.

Marcel Gohsen

Ja, also natürlich ist da ein bisschen Interpretation von dem Modell gefragt. Auch das könnte man könnte man eingreifen und das auslagern auf, ich sag mal, zugeschnittene Systeme. Aber da überlassen wir dem Modell noch die Agency.

Ich bin ein ganz großer Befürworter von Sprachmodellen, die wirklich nur als Input und Output Modelle dienen und wir alles andere, was zum Konstruieren von Text nötig ist, die Logik, den Inhalt, die Kohärenz, alles was damit zu tun hat, auszulagern in spezialisiertere Modelle, in menschliche Prozesse teilweise auch und wirklich Sprachmodelle nur für das zu benutzen, für das sie gemacht worden sind, nämlich um Sprache zu konstruieren, für nichts anderes. Sprache zu verstehen und Sprache zu konstruieren. Mehr sollen diese Modelle nicht leisten. Und wenn man sie nur dafür einsetzt, hat man schon sehr viel gewonnen und man läuft nicht in diese standardmäßigen Probleme rein, die jetzt immer wieder diskutiert werden.

Simon Frisch

Genau. Kannst du das noch mal beschreiben, also sozusagen die Negativfolie, vor der du zu dieser Bevorzugung kommst. Input Output Modelle, was wären da sozusagen Irrwege.

Marcel Gohsen

Ganz konkret für Mathematik oder dergleichen? Das nennt sich Reasoning. Das heiß kann das Modell wirklich logische Prozesse simulieren? Also kann ich, darunter fällt zum Beispiel Arithmetik, kann das Modell zwei Zahlen addieren? Das heißt, das Modell muss verstehen, wie die Addition in der Mathematik funktioniert. Das System muss Zahlen verstehen, Zahlensysteme verstehen und kann dann, wenn es eben diese Reasoning Prozesse simulieren kann, die Addition auf alle Zahlen, ungesehene Zahlen durchführen und die Ergebnisse sind immer richtig. Das würde bedeuten, dass diese Modelle eben so einen Logikprozess simulieren können.

Das findet natürlich in der Praxis nicht statt. Das heißt, wenn ich eben Logikverständnis brauche oder Verständnis über Zahlensysteme, Arithmetik und dergleichen, sehen wir immer häufiger Fehler, die einfach aus der Natur von Sprachmodellen herrühren. Die können gar nicht so richtig funktionieren.

Simon Frisch

Das wären Rechner, aber nicht Sprachmodelle.

Marcel Gohsen

Genau.

Simon Frisch

Ah ja, das ist der Unterschied. Und jetzt denken wir, wir können die alles mögliche fragen und jetzt sagst du, nein, es sind wirklich Sprachmodelle und wenn ich rechnen will, muss ich Rechenmodelle nehmen oder Rechenmaschinen, also Sprachmaschinen.

Das erinnert mich an eine Karikatur, gerade was wir auch vorhin gesprochen haben, eine Karikatur, die ich vor Jahren mal gesehen hab. Der Karikaturist heißt Quino, glaube ich, also Quino geschrieben, Quino aus Argentinien, wo man einen Friseurladen sieht, also was du vorhin beschrieben hast mit diesen Codierten, mit diesem Wissen.

Und da sind verschiedene Stühle und über den Stühlen stehen Politik, Klatsch und Tratsch, Kunst und Kultur. So kann. Und dahinter stehen Friseure, die in der Lage sind, eine Stunde lang Konversation zum jeweiligen Thema sind sozusagen informierte Sprachmodelle. Sie reden sowieso, Man kann sich halt, Sport gab es glaube ich auch noch, man kann sich dann raussuchen, über was man jetzt diese Stunde lang Konversation betreiben will. So könnte man sich das vorstellen, diese Maschine.

Marcel Gohsen

Ziemlich genau so.

Simon Frisch

Ja, okay, fantastisch. Also wie ein Friseur.

Marcel Gohsen

Ja, so ist es.

Simon Frisch

Ich muss auch interessanterweise gerade bei jetzt, wo du noch mal sagst, Input, Output, an eine Tante von mir denken, die nach einem Schlaganfall nicht mehr Konversation betrieben hat, so wie wir das machen. Also so, dass das inhaltlich kohärent wirkt. Und ich habe aber fantastische Gespräche mit ihr geführt. Also sie konnte Konversation, weil sie einfach eine Gesprächsperson war. Und wenn man sich darauf eingelassen hat, die Kohärenzebene zu verlassen, dann habe ich halt 25 mal am Abend erzählt, was ich beruflich mache. Und sie hat mich immer wieder nach einem Schluck Wein oder nach dem nächsten Happen Essen gefragt und was machen sie beruflich, Weil sie einfach wusste, wie Konversation funktioniert. Wenn man nebeneinander am Tisch sitzt, dann macht man das so. Und daran musste ich immer wieder denken, wenn ich über KI Sprachmodelle nachdenke, ob das in reduzierter Form sozusagen, ob das das ist, was die Maschinen können. Sie wissen, was man jetzt zu tun hat.

Marcel Gohsen

Ja, das würde ich ziemlich so unterschreiben.

Simon Frisch

Also okay, sehr gut. Aber das ist ja sehr hilfreich, weil man dann weiß, was kann ich mit diesem Gerät machen und was kann ich mit diesem Gerät nicht machen. Und jetzt ist die Frage, und das finde ich interessant, dass vielleicht auch wir halluzinieren, wenn wir versuchen mit dem Gerät was zu machen, was das Gerät gar nicht kann.

Marcel Gohsen

Mir gut vorstellen, dass da bei uns auch ein Halluzinationsprozess im Gange ist. Also ich sehe das ja sehr viel, ich lese viele Forschungsarbeiten und wird in alle Richtungen geforscht, um eben so Logikprozesse für die Maschinen greifbar zu machen. Und eigentlich die Hauptlösungen für diese Dinge sind. Wir zeigen dem mehr Beispiele, wie das eigentlich funktioniert.

Also man skaliert irgendwie das System nach oben, macht es immer größer und zeigt immer mehr Beispiele. Aber das meiner Meinung nach wird nicht das des Rätsels Lösung sein, um eben diesen Systemen Logik beizubringen. Meiner Meinung nach sind das eben spezialisierte Systeme. Wir haben hervorragende Systeme, die sowas können.

Also Wolfram Alpha mal als Stichwort, das ist eben, ich weiß nicht, ob du es kennst.

Simon Frisch

Das kenne ich nicht. Ich wollte gerade fragen, Wolfram Alpha, ich wollte es noch mal wiederholen, im Radio verflüchtigt es sich zu schnell.

Marcel Gohsen

Das ist eine Online Plattform, die Mathematik kann, also ich kann dir zum Beispiel ein Integral hinschreiben, bitte löse dieses Integral nach x oder was auch immer ich für mathematische Probleme habe. Und dieses Modell kann eben dieses Integral für mich ausrechnen, kann mir den Lösungsweg zeigen, kann vielleicht eine Herleitung machen, kann Grenzwerte bestimmen. Also wirklich alles, was wir in der Schule in der Mathematik so machen können, kann dieses System für mich machen.

Und da ist kein Sprachmodell, was irgendwie halluziniert, sondern das sind eigens dafür konzipierte Logikoperationen, Logikrechner, die sowas eben lösen können nach den logischen Regeln, wie sie in der Mathematik eben gelten. Und da wirst du immer eine richtige Antwort erhalten.

Das heißt, wenn ich das auslager, diese Probleme, die schwierig sind, mit Sprachmodell zu lösen, dann kann ich das ja verknüpfen. Dann sage ich Sprachmodell bitte, das ist jetzt ein logisches Problem, ich muss das jetzt an meinen Partner weitergeben, an mein Logikmodell und kriege dann eine richtige Antwort. Und dann kann das Sprachmodell eben diese richtige Antwort wieder kommunizieren, vielleicht in Kontext setzen oder sowas.

Simon Frisch

Fantastisch. Also haben aber diese Maschinen, diese Rechenmaschinen können keine Konversation betreiben, was wiederum aber die KI Sprachmodelle können.

Marcel Gohsen

So ist es.

Simon Frisch

Und die wiederum können keinen Diskurs entfalten. Und wer kann das? Also jetzt ist so ein Was müssen wir an der Uni machen. Das ist wahrscheinlich jetzt, darauf will ich jetzt die Frage beziehen und möglicherweise ist das schon die Wie können wir den Diskurs erhalten?

Marcel Gohsen

Das ist wahrscheinlich die Kernfrage, in der wir uns gerade bewegen an der Universität. Also da habe ich leider keine Antwort bisher, wenn ich eine hätte, das wäre hervorragend.

Was wir teilweise machen in der Forschung ist Diskurs simulieren. Also dass wir mehrere Modelle nehmen und die sich wirklich unterhalten lassen. Also ich kann Modell A sagen, ich habe diesen Standpunkt und Modell B sagen, ich habe diesen Standpunkt. Hier ist ein Datensatz mit Argumenten und Evidenzen, bitte, also führt mal den Diskurs. Und das kann man natürlich machen. Die können natürlich beide Standpunkte Quatsch sein oder was wir auch sehen, dass es dann Überläufer gibt von Standpunkt A zu Standpunkt B und solche Dinge. Aber Diskurs können wir in dem Sinne simulieren.

Simon Frisch

Das stelle ich mir jetzt für Maschinen eigenartig interessant vor, dass sie auf, dass sie, dass die Maschinen jetzt, wenn sie miteinander reden, immer noch den Umweg über die verbal Artikulation gehen müssen, weil die wahrscheinlich merkwürdig finden. Also natürlich nicht, weil die diese Empfindung nicht haben, aber dass das irgendwie eine Trägheit, die dann eingebaut wird.

Übrigens interessanterweise in dem Film her ist das auch so. Diese KI lernt dann, glaube ich, andere KIs kennen und ist mit denen dann in Diskussionen im Diskurs und hat, also das ist ganz interessant dargestellt, weil man so plötzlich, also mir ist irgendwie, ich habe das so verstanden oder es war eben so gut dargestellt, dass die in viel komplexeren und auch simultan Prozessen und so weiter oder in höheren Taktungen als Menschen miteinander reden können, sodass es wahnsinnig schnell ist.

Viele Trägheitsmomente, die wir durch die ganzen Artikulationen, die halt irgendwie mit unserer Körperlichkeit und Raum Zeit Phänomenen zu tun haben, uns sage ich halt menschliche Lebewesen oder menschliche Intelligenzwesen oder sowas in der Richtung, die Maschinen sich mit sowas nicht aufhalten müssen. Also wenn Maschinen anfangen miteinander zu reden, was es ja schon überall gibt, muss man ja nicht über solche Sprachmodelle gehen. Das machen Maschinen ja sowieso hier und da schon mit kybernetischen Modellen und allem Möglichen.

Die sind ja dauernd in Prozessoren und Prozessen im Gespräch miteinander ohne Verbalsprachlichkeit zu benutzen. An der Stelle könnte man dann sagen, und das ist dann ja so in dem Film her verabschiedet sich dann die KI und geht dann mit den anderen weg, weil sie mit denen mehr anfangen kann. Und das ist dann auch nicht mehr menschliche Kommunikation.

Jetzt ist genau da die Frage, ich will noch mal zurück auf Lehre und Lernen natürlich, Also wie kann man den Diskurs erhalten? Das ist natürlich die eine Frage und gleichzeitig verändert sich ja Lehre und unsere Lerninhalte oder unsere Lernkompetenzen und so weiter in Hinsicht auf diese KI. Ich finde, wir haben gerade ein sehr schönes Bild gezeichnet, wo wir auch insbesondere, als du noch mal differenziert hattest, mit Input, Output hingegen zu anderen Funktionsweisen, da kann man jetzt eigentlich schon anfangen, Register zu bilden.

Wie geht ihr konkret seit einem Jahr, wenn ihr diesen KI Assistenten habt und mit eurer Forschung, also mit euren Forschungsergebnissen, wie geht ihr damit um, wenn wir jetzt Universität, Future Skills, also tausende von Begriffen, die dann gleich um diese KI auch immer sich um diese beiden Buchstaben, sage ich jetzt mal, im Diskurs, also im Blätterwald oder auch im Bildschirmwald sich da herumschwirren. Was sind eure Fragen, die ihr euch stellt hinsichtlich, was müssen wir an Universitäten können leisten?

Marcel Gohsen

Eine Frage, die wir uns immer wieder stellen, geht über Prüfungsformate. Dadurch, dass wir eben diese KI Systeme haben und die nicht wegzudenken sind, die auch nicht wegverbietbar sind, meiner Meinung nach, und auch nicht sollen die Kompetenzen ein Problem in natürlicher Sprache wiederzugeben, ist ja auch eine Kompetenz, die wir fördern wollen. Also in gewisser Weise eine Abstraktion zu bilden.

Natürlich kann ich vom Übungsblatt mir auch einfach die Frage rauskopieren und in ChatGPT reinpacken. Darüber rede ich natürlich nicht, sondern in eigenen Worten das Problem formulieren. Das setzt ja voraus, dass ich das Problem verstanden habe und das abstrahieren kann und kriege dann eine Antwort von den Sprachmodellen. Und in der Stelle, wo ich dann diese Antwort lese, verstehe und wieder zurück in das Übungsblatt integriere mit in meinen eigenen Worten, finden genug kognitive Prozesse statt, die wir auch weiter fördern wollen.

Abstraktion, Verständnis und Generalisierung von diesen Problemen, das ist natürlich der Idealzustand, dass Studierende das tun. Leider passiert es nicht so oft. Da reden wir dann wirklich nur von Steuerung C, Steuerung V, da ist natürlich nichts gelernt. Und da stellen wir uns die Frage, wie wir mit sowas umgehen können, gerade in Prüfungssituation.

Was wir jetzt immer wieder häufiger sehen, ist, dass Studierende gut sind in den Übungen, also den Praxisübungen, die sich übers Semester hinziehen, weil sie eben Zugriff auf all diese Technologien haben und dann allerdings in der Prüfungssituation, wo all diese Werkzeuge weg sind, keine gute Performance abliefern. Die Frage ist jetzt, wie kann man Prüfungen so gestalten, dass wir schon noch prüfen können, ob sie diese Probleme verstanden haben und anwenden können?

Ich meine, wir sind in der Informatik, bei uns ist wenig auswendig lernen und wirklich viel anwendungsbasiert. Man muss die Probleme verstanden haben, man muss die Algorithmen verstanden haben, muss die Mathematik verstanden haben und all das ist anwendungsbasiert. Und wie können wir das abfragen, dass wir wirklich sehen, dass die Studierenden das können und sich das nicht nur mit Hilfe von ChatGPT und dergleichen auswendig gelernt haben.

Simon Frisch

Könnte man ketzerisch aber auch einwenden, frage ich mich tatsächlich immer wieder. Wenn diese Maschinen das alles können, sind wir nicht dann von solchen Kompetenzen entlastet und können uns anderen Dingen zuwenden? Also müssen wir noch lesen, verstehen, schreiben, artikulieren?

Marcel Gohsen

Ich bin fest davon überzeugt, ich denke, dass Kompetenzen Drift geben wird durch diese Systeme, dass wir anders lesen werden, dass wir anders schreiben, werden vielleicht auch einige Kompetenzen dabei verloren gehen, vielleicht sind diese sogar entbehrbar. Aber das, was wir in den Vorlesungen machen, ist ja wirklich Theorie und Grundlagenverständnis, was man braucht, um eben solche KI Systeme erstmal verstehen zu können, um überhaupt eigene Systeme entwickeln zu können, um überhaupt nachzuvollziehen können, wie kommt jetzt so eine Antwort zustande? Und das wird sich nicht wegdenken lassen. Und ohne dieses Wissen hat man keine Chance, überhaupt den zu durchdringen. Das kann man sagen, vielleicht braucht man das gar nicht. Aber dann werden wir als Gesellschaft stagnieren und keine Weiterentwicklung mehr machen können, weil das ganze Know how irgendwann nur noch in den Maschinen steckt.

Simon Frisch

Und das ist interessant, gerade das Stichwort, was du genannt hast. Ich glaube, es gibt, als du gesagt hast, wir müssen verstehen, wie das Wissen zustande kommt oder wie das, was ich da lese und die Artikulation zustande kommen, meine Kommunikation mit dieser Maschine. Möglicherweise sind das neue, habe ich noch nie so gedacht, neue soziale Kompetenzen. Also wir müssen sozusagen soziale Kompetenzen in Hinsicht auf nichtmenschliche Lebewesen oder Artikulationswesen, also Gesprächspartner, Gesprächspartnerinnen entwickeln. Möglicherweise aber machen wir das sowieso schon die ganze Zeit in einer Massengesellschaft, wo wir von Zeichen umgeben sind, in Verkehrssystemen und so weiter und das mit der Maschinemücke, weil einfach nur noch was dazukommt.

Ich sage jetzt dauernd möglicherweise gerade so ein Buzzword in meinem, merke ich gerade in meinem Satz. Ich habe ja schon gesagt, ich mache immer gerne diese Vergleiche mit was gibt also Analogisierungen, die dann aber immer auch aushalten müssen, dass sie eben, wo sie dann nicht reichen und darüber habe ich jetzt eigentlich viel zu wenig gesprochen, sondern immer versucht, wo es hinreicht und wo es auch funktioniert. Also wo wir eigentlich haben wir schon soziale Kompetenzen, die über die menschliche Interaktion hinausgehen, machen wir möglicherweise schon immer, dass wir mit Zeichen mit, also dass wir mit Erscheinungsform umgehen und sie zum Teil.

Und da ist es dann eben auch so, dass Artikulationsformen immer zwischen Schreiben und Lesen immer in einem Zwischenraum eigentlich stehen und entstehen. Also wenn ich durch einen Buchenwald gehe, also einen Wald mit Buchenbäumen, weiß nicht, ob du das kennst, da sehen manchmal so Astlöcher aus wie Augen. Und da kann ich dann also mich dauernd beobachtet fühlen, das machen die Buchen aber nicht. Und da wäre ich schon in einer Interaktion, die eigentlich auf der Leseseite mehr oder weniger verortbar wäre. Und da hätte ich eine soziale Interaktion mit Lebewesen, die das nicht tun, was ich da mache, Aber meine Umgangsweise, mein Weltverhältnis ist dann trotzdem so eins. Und dann kann ich die schauen mich an oder wenn da eine Person dabei ist, dann sagt nein, das sind Astlöcher und dann müsste ich den Diskurs führen und verhandeln, ob die mich jetzt anschauen oder ob ich, also woher entsteht mein Weltverhältnis? Mich schauen Bäume an oder eine Maschine spricht mit mir.

Marcel Gohsen

Also diese sozialen Interaktionen, die gibt es definitiv und zwar auf allen Modularitäten. Wir können ja mittlerweile mit KI nicht nur über Text kommunizieren, sondern wir können auch über Video kommunizieren, wir können über Sprache, also über Audio kommunizieren, wir können über Bilder kommunizieren. All diese Sachen gibt es schon.

Und da gibt es verschiedene Phänomene, die da auftreten, die wir sozial auch zu spüren. Besonders finde ich, gibt es da die bei Sprache, und das ist ja unser Hauptkommunikationswerkzeug, da haben wir die größte soziale Interaktion mit und da gibt es ganz interessante Effekte, wie ich finde zwar den Uncanny Valley Effekt,

Simon FrischBeschreib den mal. Den kennen wir glaube ich nicht alle.

Marcel Gohsen

Dass Sprache, also ein System, was sich mit mir unterhält, schon so menschlich wirkt, dass es fast wie ein Mensch funktioniert, allerdings so leicht und so subtil, anders komisch ist, sodass wir davon, ich sag mal, überrascht sind, aber auch negativ überrascht, sodass wir uns irgendwie unwohl fühlen, mit diesem System zu interagieren. Das nennt sich Uncanny Valley. Das ist definitiv eine soziale Interaktion, die ich total spannend finde.

Es gibt auch, da geht es jetzt um Sprachsynthese, also aus Text wirklich Sprache zu machen. Da gibt es sehr interessante, ich nenne es mal Bugs oder Dinge, die nicht so sein sollen, wie sie sind. Und zwar, wenn ich dem Sprachsynthese Modell sage, dass es bestimmte Zeichen, die es aus ihren Trainingsdaten gar nicht kennt, sprechen lassen soll, also zum Beispiel griechische Alphabete oder irgendwelche Sonderzeichen, Emojis, Dinge, die es vielleicht gar nicht gesehen hat, entstehen ganz wirre Ausgaben.

Manchmal kommt ein wenig Musik, manchmal kommt wirklich nur Krach, manchmal kommt Neues. Also da ist wirklich, das ist teilweise sehr unterhaltsam, manchmal fängt das Modell an zu stöhnen, zu husten, zu seufzen, zu singen, manchmal. Also das kann man gar nicht richtig beschreiben. Und das ist im Grunde genommen sehr einfaches Phänomen, was dadurch zustande kommt, dass es eben diese Daten nie gesehen hat und dadurch eben zufälliges Audio produziert, sage ich mal. Es ist natürlich nicht ganz zufällig, aber dass da wenig Wissen vorhanden ist, wie das klingen soll und dadurch sich dann was zusammen halluziniert, was dann überhaupt nichts oder sehr wenig mit der menschlichen Sprache zu tun hat. Und da fühlt man sich schon merkwürdig, wenn man das hört.

Also sehr interessant, das kann man gerne bei ChatGPT selber ausprobieren. Man kann sich die Antworten vorlesen lassen, zum Beispiel wiederhole diesen Charakter, kann Spezialcharakter sein oder Emoji oder so hundertmal und dann lässt man sich die Antwort vorlesen, man wird erstaunt sein, was einem das Modell da vorliest.

Simon Frisch

Verändert sich die ganze Zeit.

Marcel Gohsen

Es verändert sich permanent.

Simon Frisch

Achso, das legt sich nicht fest dann ja, weil es ja immer wieder neu die Wahrscheinlichkeit bildet. Genau, also es bildet nie ein Lexikon, sondern es ist jeweils in der Situation, was machen Sie beruflich? Das kann immer wieder am selben. OK, verstehe.

Das ist ja großartig. Also jetzt fällt mir natürlich was ein, dass da auf einmal eine Poetik entsteht, also eine Produktivität, die im Grunde, also hätte die Avantgarden Anfang des 20. Jahrhunderts total begeistert, Dadaisten und Surrealisten hätten mit dieser Maschine Gedichte gemacht, um endlich sozusagen aus der, das war ja damals, man wollte ja, und das ist ja interessant, das ja heute oft vergessen, Anfang des 20. Jahrhunderts wollten die Kunstbewegungen aus der menschgemachten Poesie und auch aus dem menschgemachten Sinn, das 19. Jahrhundert war ja voller Sinn und Genie und Aussage raus und haben eigentlich versucht in den Zufall, in das Generative, in das Nichtmenschliche und so weiter zu gehen. Also da hätte das sehr gut gepasst. Insbesondere solche Experimente wie du beschreibst.

Marcel Gohsen

Es wird zum Teil schon in popkultureller Natur verwendet, auf sozialen Medien gibt es ganze Sammlungen von, die werden humorvoll, ChatGPT Strokes oder so genannt, werden da Videos von produziert und die Leute finden es total lustig und unterhaltsam und spannend, was da passiert. Also das wird, da bildet sich ein Medium des Humors, was eben über diese Dinge lachen kann.

Simon Frisch

Ja, super. Also Humor oder auch Poesie oder Lyrik, sowas wie Sachlyrik, Gegenstandslyrik, Maschinenlyrik oder du hast auch Noise genannt.

Noise ist ja auch eine Art Klangkunst, die weit über das, was wir Musik nennen, hinausgeht, aber trotzdem mit Sound arbeitet und auch gestaltend mit Sound arbeitet und zwar mit den Möglichkeiten, die die Geräte haben, die eigentlich bisher zur Wiedergabe oder Aufnahme von Instrumenten oder generative Geräte, die Sound erzeugen.

Und da wird dann in den Zwischenbereichen gesucht und dann wird geguckt, was können die eigentlich. Das hat mit der Radiokunst übrigens auch schon angefangen.

Also mit der Einführung des Radios haben die Musiker, Musikerinnen sehr schnell gemerkt, dass das Radio auch ein Instrument sein kann, nicht nur ein Übertragungsgerät und haben dann damit gespielt. Sehr schön.

Wir sind sogar bei der Kunst angekommen zum Schluss sozusagen. Wir haben einen sehr, sehr schönen Diskurs gehabt. Habe ich dir irgendeine Frage nicht gestellt, auf die du immer gewartet hast, wo du sagst, dazu wollte ich noch was sagen? Wir wären nämlich mit der Zeit jetzt eigentlich mit der Runde durch.

Marcel Gohsen

Ich bin vollkommen glücklich.

Simon Frisch

Super, ich auch. Marcel, vielen Dank für das schöne Gespräch.