Bonus Ep. – Gespräch mit Moritz Hiller und Moritz Wehrmann auf der Leipziger Buchmesse

01_04_Gespräch mit MoritzH und MoritzW.wav

Bonus-Ep. Zu Gast bei der Leipziger Buchmesse

Baron: Hallo und herzlich willkommen! Wir befinden uns hier am Stand der Bauhaus-Universität Weimar auf der Leipziger Buchmesse 2024. Mein Name ist Nicole Baron und ich bin Mitarbeiterin der Universitätsentwicklung an der Bauhaus-Universität Weimar. Ich werde Sie, liebe Zuhörer, und mein Publikum hier heute durch das einstündige Programm führen. Das Motto dieses Messestands und auch unseres Gesprächs heute ist ja „Neues Lesen - Neues Schreiben“. Und ich möchte mich heute Nachmittag mit meinen Gästen darüber austauschen, wer eigentlich schreibt und wer liest, wenn Menschen und große Sprachmodelle miteinander interagieren.

Zu Gast in meiner kleinen Podcast-Nische hier sind zum einen Moritz Hiller. Er ist seit 2020 Mitarbeiter an der Professur für Geschichte und Theorie der Kulturtechniken an der Bauhaus-Universität Weimar. Und dort beschäftigt er sich vor allem mit der Theorie und Geschichte digitaler Medien. Zuletzt erschienen ist seine Monografie Maschinenphilologie, die sich mit den philologischen Herausforderungen von Maschinennachlässen beschäftigt. Im Herbst erscheint außerdem ein Text von ihm im Sammelband Text und Kritik unter dem Titel Das Subjekt des Schreibens über große Sprachmodelle. Hallo Moritz.

Hiller: Hallo.

Baron: Moritz Wehrmann sitzt hier auf meiner anderen Seite. Er ist Medienkünstler und Mitarbeiter an der Bauhaus-Universität Weimar. Sein künstlerisches Schaffen umfasst konzeptionelle Arbeiten, wie auch konzeptionelle Arbeiten, wie medien- und wahrnehmungsreflexive Werke. In diesen Werken erforscht und hinterfragt neue Technologien und Mensch-Maschine sowie Mensch-Mensch Kommunikation. Er war unter anderem Stipendiat am Zentrum für interdisziplinäre Forschung und seine Werke wurden weltweit ausgestellt. Unter anderem auf der Ars Elektronica in Linz und Tokyo sowie im Deutschen Hygiene Museum in Dresden. Hallo Moritz.

Wehrmann: Hallo, freut mich hier zu sein.

Baron: Zur besseren Unterscheidung meiner beiden Gäste werde ich immer mit Vor- und Nachnamen ansprechen, aber wir haben uns zumindest schon auf das Du geeinigt. Zum Einstieg würde ich gerne noch ein bisschen mehr über eure jeweilige Arbeit erfahren. Moritz Hiller, worüber forscht du und worüber lehrst du?

Hiller: Ja, also herzlichen Dank auch für die Einladung meinerseits. Ich forsche und Lehre an der Bauhaus-Universität, an der Professur für Geschichte und Theorie der Kulturtechniken. Vor allem, wie du schon gesagt hast, zur Theorie und Geschichte der digitalen Medien. Und das meint in dem Fall speziell die Schreib- und Lesepraktiken in historischer Perspektive, die zu dem geführt haben und das ausmachen, was man heutzutage das Digitale nennt. Zum einen. Ich will vielleicht ergänzen. Der Text, den du erwähnt hast. Das Subjekt des Schreibens ist kein einzelner Text, sondern ein Sammelband ein ganzer, den ich mit meinem Kollegen Hannes Bajohr zusammen herausgebe.

Und der Titel dieses Sammelbandes wird auch der Titel des Vortrags sein oder des kleinen Inputs, den ich für heute vorbereitet habe.

Baron: Super, danke.

Moritz Wehrmann. Du bist ja als Künstler und künstlerischer Mitarbeiter hier. Kannst du uns ein bisschen mehr über diese beiden Rollen erzählen?

Wehrmann: Genau, vielleicht fange ich erstmal mit dem künstlerischen Mitarbeiter an. Das ist insofern ungewöhnlich, als dass ich in einem Bereich unterrichte, wo man gar keine Kunst studiert, sondern eher Medienwissenschaft. Was mir aber eigentlich ganz entgegenkommt, weil das ein Bereich ist, der mich selbst sehr interessiert und über den ich auch künstlerisch gerne arbeite oder mit dessen Hilfe ich arbeite. Und thematisch habe ich eigentlich ein relativ weites Feld. Im Moment beschäftige ich mich natürlich sehr wie sehr viele Künstler mit generativer KI, sowohl Text als auch Bild und finde es sehr faszinierend, welche Einflüsse das hat. Aber da sprechen wir später sicher noch ein bisschen mehr drüber. Ansonsten interessiere ich mich auch für das Verhältnis zwischen Mensch und was man Natur nennt, und Technik und Natur und Fragen, wie z.B. die des Klimawandels.

Baron: Ja, vielen Dank! Wir werden gleich noch ein bisschen mehr darüber sprechen, wer in Bezug auf diese großen Sprachmodelle - oder im Allgemeinen, KI, eigentlich schreibt und darüber, wer da liest und was diese neuen Werkzeuge mit der Kommunikation zwischen uns Menschen macht. Vorher haben meine Gäste aber beide etwas vorbereitet. Ich nenne es mal jeweils einen kleinen Input. Zuerst wird Moritz Hiller einen Impuls Vortrag von etwa zwölf bis dreizehn Minuten halten. Darin diskutiert er, wer oder was beim Arbeiten mit KI Text Generatoren eigentlich schreibt. Und dann wird Moritz Werner eine Lecture Performance geben, die Geteiltes Schreiben heißt.

Ich will noch nicht zu viel versprechen oder verraten, aber es hat damit zu tun, dass wir als Publikum nachher alle gemeinsam ein großes Sprachmodell nachempfinden. Ja. Moritz Hiller, du hast den Raum.

Hiller: Okay, alles klar, ja. Also, das, was ich vorbereitet hab für heute, steht unter der Überschrift Das Subjekt des Schreibens und wird zunächst erstmal versuchen, eine Bestandaufnahme eines neuen Schreibens zu geben, nämlich das Schreibens mit solchen Programmen wie ChatGPT. Also dem, was man gemeinhin in der Fachsprache, „große Sprachmodelle“ oder „Large Language Models“ nennt. Dabei wird es vor allem eben um diese Frage gehen, wer oder was da schreibt. Oder die Frage, wo sich im Zeitalter solcher Systeme, solcher Medien, solcher Schreibapparaturen das eigentliche Schreiben überhaupt ereignet. Also wo ist der Ort des Schreibens. Um damit auch nicht zuletzt schon einige Stichworte für das geben zu können, was wir in der Installation von Moritz Wehrmann dann hoffentlich in sehr imposanter Art und Weise vorgeführt werden bekommen. Das Ganze wird ungefähr zehn, zwölf Minuten dauern und ich hoffe mal auf die Geduld aller derjenigen, die zuhören. Also im Januar 2023, also zwei Monate nach der Veröffentlichung von ChatGPT, erscheint der erste Wissenschaftstext der einem großen Sprachmodell Autorschaft zuweist.

Neben dem Namen der menschlichen Autoren erscheint einfach der Name des Chatbots ChatGPT. Das mag im Umfeldern literarischen Schreibens keine Rede mehr wert sein. In einer Medizinischen Fachzeitschrift, die einem der größten Wissenschaftsverlage der Welt gehört, ist es doch bemerkenswert. Ein Computerprogramm wird im juristischen Sinn zum gleichberechtigten und gleichverantwortlichen Akteur des Schreibens erklärt, wie die menschliche Autorin des Textes. Keine utopische oder doch dystopische Spekulation über den Personstatus von Maschinen, sondern diskursive Wirklichkeit, der, wie Foucault genannt hätte, Autofunktion im frühen 21. Jahrhundert. Dass ChatGPT hier Autorschaft zugeschrieben wird, ist auch darum bemerkenswert. Weil andere Softwareprodukte, die längst unverzichtbarer Teil unserer Schreibpraktiken sind, an der Stelle die Autorschaft regelt, nicht auftauchen.

Niemand käme in wissenschaftlichen Diskursen und Publikationsformaten auf die Idee, einem Textverarbeitungsprogramm wie Word diesen Platz zuzuweisen. Und das gilt nicht nur für die Wissenschaft. Denn zu den unhinterfragten Prämissen unserer heutigen Konzeption von Schreibprozessen und ihren Produkten gehört, dass ein solches Programm zu den passiven Geräten des Schreibens zählt, nicht aber zu seinen kausalen Urhebern, geschweige denn Autoren. Es ist die Standardannahme allen Schreibens, die seit gut zweihundert Jahren gilt, dass nämlich alles Geschriebene erst einmal als menschengemacht gelesen werde und dass unser sogenanntes Schreibzeug, zu dem auch jeder Art von Software zählt, immer nur passives Instrumentarium sei. Ganz anders jetzt der Fall der sogenannten Sprachmodelle, deren Gattungsname so unglücklich gewählt ist, wie der, der Programmiersprachen, die niemand spricht. Sprachmodelle sind geschriebene Texte, die geschriebene Texte aus geschriebenen Texten machen. Niemals aber Sprache.

Was sie leisten, nämlich nicht mehr oder weniger als die Bestimmung der statistischen Verteilung einzelner Zeichenfolgen, in dem Textkorpus, das dem Modell als Trainingsdatenbasis diente, hieße deshalb besser: Schreibmodell. Denn der Text, den das Modell generiert, gründet einfach auf syntagmatischen Wahrscheinlichkeiten vergangener schriftlicher Zeichenproduktion. Umso bemerkenswerter, dass wir die humanistisch aufgeladene Standardannahme des Schreibens - immer sind die Texte menschlichen Ursprungs und die Geräte passiver Instrumentalität angesichts davon, kurzfristig aufzugeben, bereit sind, indem wir dem Programm keinen instrumentellen Charakter zusprechen, sondern seine Urheberschaft deklarieren und mehr noch sogar Autorschaft an Texten verleihen. Weder das eine noch das andere, würden wir auf ein bloßes Spiel der Wahrscheinlichkeiten reduzieren wollen. Es liegt auf der Hand, so denke ich, dass diese kurzfristige Abkehr von allem, was uns im Feld des Schreibens seit zweihundert Jahren lieb und teuer ist, denselben Ursprung hat, wie alle diejenigen Diskussionsreflexe, die noch jede Entwicklung im Bereich künstlicher Intelligenz begleitet haben. Wir alle kennen die Feuilletons. Auch seit der allgemeinen Zugänglichkeit von ChatGPT wird dort mal gelassen hingenommen, mal aufgeregt, abgelehnt, dass diese technischen Systeme in gleicher Weise Bedeutungen verstehen, Kommunikation intendieren oder Bewusstseine prägen würden, wie diese Großtitel gemeinhin Menschen zugedacht werden.

Gerade aber, wo die Frage nach dem neuen Lesen und einem neuen Schreiben im Mittelpunkt steht, da muss betont werden, dass der Reflex der Vermenschlichung Effekte hat, die Sichtbarkeit, die Durchschaubarkeit der Kulturtechniken Lesen und Schreiben unter digitalen Bedingungen betreffen. Effekte, die wohl genau darum alles nur keine zufälligen Nebenprodukte sind. Denn die irreführende Rede von Sprachmodellen, die unter einer Unterscheidung von gesprochener und geschriebener, von hörbarer und lesbarer Sprache ganz bewusst unterschlägt, verfestigt die Vorstellung noch, dass die Textproduktion solcher Maschinen immer schon menschliche Rede oder kurz Menschlichkeit annäherte. Nachdem eine schriftliche Zeichenpraxis, die nicht einfach menschlich ist, auf eine nach gerade idealistische Menschlichkeit reduziert wurde, folgt das bei Gegnern wie Befürwortern zwanghafte Diskussionskarussell über die Produkte dieser Schreibpraxis. Ob sie in philosophischer Hinsicht Wahrheits- und Bedeutungskriterien erfüllen, als Symptom eines wie auch immer menschlichen Bewusstseins gelten können oder ob sie die Textgenres ausgerechnet der Geistes- und Sozialwissenschaften bedrohen würden. Ob sie denken, kreativ sind oder intelligent. Solche Diskussionen lenken indes nur von den sehr realen Funktionen und Effekten dieser historisch tatsächlich neuen Art des Schreibens ab.

Bestehende Wissensklüfte, Machtgefälle und Zugangsbeschränkungen, die im Kontext von Softwareprodukten, von digitalen Plattformen und physischen Infrastrukturen längst offengelegt wurden, können ungestört aufrechterhalten bleiben, ja, zunehmend unumgänglicher werden, während die Produktivkräfte kritischer Köpfe und Tastaturen anscheinend Debatten gebunden werden, die immer schon zu spät kommen, weil ihre Texte bereits als Trainingsdaten in die nächste Version des Modells eingegangen sind.

Gleichzeitig wird das Modell in vernebelten Debatten laufend mit der proprietären Software verwechselt, die es eingebettet ist. ChatGPT ist eben nicht das Modell, sondern nur ein auf bestimmte Weise gestaltetes Interface zur Ein- und Ausgabe, das für die menschlichen Nutzer sicherlich größte Wichtigkeit hat, weil es eben der nur eine mögliche Weg für sie ist, mit der Maschine zu interagieren. Aber abgesehen von der Funktion, ein narzisstisches Spiegelkabinett zu errichten, in dem Leute den Eindruck haben dürfen, von einem bewussten kommunikativen Wesen adressiert zu werden und darum selber ein solches Wesen zu sein, hat die Benutzeroberfläche keinerlei Einfluss auf die Schreibvorgänge der dahinter liegenden Maschine. Das kollektive Staunen über ihre Fähigkeiten, das allerorts zu beobachten ist, ist in genau dem Sinn weniger Beweis für den Durchbruch zur Menschlichkeit einer allgemeinen künstlichen Intelligenz, sondern Symptom eines noch immer verbreiteten Unwissens in unserer mangelnden Vorstellungskraft in Bezug auf die Mächtigkeit, die dem Schreiben und Lesen der digitalen Maschinen immer schon innewohnt. Die Mächtigkeit eines historisch neuen Zeichenregimes. Die bewusste Verneinung der elementaren Schriftlichkeit, sogenannter Sprachmodelle, hat also Strategie.

Denn wenn das Schreiben solcher Maschinen erst mit der Sprache des Menschen überhaupt identifiziert ist, dann kann das herrschende Zeichenregime, das spätestens seit dem Digitalcomputer eben, ausnahmslos Schrift meint, einigermaßen unbekümmert weiter herrschen, intransparent und allgegenwärtig. Es gibt - mit anderen Worten - keine Sprachmodelle. Erstens wären sie Schreibmodelle, deren Input und Output keine Menschenrede sein kann. Zweitens modellieren sie da, wo sie modellieren lediglich den syntagmatischen Aspekt eines Schreibens, auf den aber keine schriftliche Zeichenproduktion reduziert werden kann, weil sie, wie das die Schreibprozessforschung gezeigt hat, stets ein komplexes Gefüge von Semantik, Instrumentalität und Körperlichkeit darstellt. Was das Modell darüber hinaus leistet, ist keine Modellierung menschlicher Sprache, sondern ein tatsächliches Schreiben, das nicht einfach menschlich ist. Und drittens gehören auch die sogenannten Sprachmodelle in den Bereich der Strategien des Scheins, als die die Marketingkampagnen der Softwareunternehmen vor dreißig Jahren schon entlarvt wurden. Sprachmodelle simulieren wie Software im Allgemeinen, dass es sie überhaupt gäbe.

Auch heute noch wird - mit den Worten Friedrich Kittlers zu sprechen „das Märchen von einer Softwareentwicklung verbreitet, die schon immer sanfter und benutzerfreundlicher, spiritueller und intelligenter geworden wäre, bis sie eines unfernen Tages den deutschen Idealismus effektiv heraufführen, also Mensch werden würde“. Und den Menschen selber, die nur über eine Oberfläche wie ChatGPT an die neuen Schreibmodelle angeschlossen sind, ihnen bleibt der direkte Zugriff auf die Produktionsmittel dieser Schreibpraxis systematisch verweigert. Vom Training der Modelle, der Bestimmung ihrer Datenbasis und Parameter sind wir faktisch ausgeschlossen. Für die Ausgeschlossenen gilt damit weiterhin, dass - noch einmal Kittler - „die Industrie den Menschen dazu verdammt hat, Mensch zu bleiben“.

Soweit die nüchterne Bilanz zur Menschlichkeit unserer Schreibinstrumente und der Rolle des Menschen in ihren Schreibpraktiken. Wenn wir angesichts von Textproduktion, die Programme wie ChatGPT einbeziehen, nicht mehr davon ausgehen können, dass alles Geschriebene erst einmal als menschengemacht zu lesen sei und dass unser Schreibzeug immer nur als passive Gerätschaft agiere. Das heißt also, wenn die Standardannahme, die unser Nachdenken über Schreibpraktiken seit 1800 stabil bestimmt hat, brüchig zu werden scheint, dann steht auf einer sehr elementaren Ebene zur Frage: Wer oder was schreibt? Wo sich ein solches Schreiben eigentlich ereignet? Und ich denke, wie gesagt, dass Moritz Wehrmanns Installation das gleich sehr klar machen wird.

Um diese Frage beantworten zu können, aber vielleicht zwei Bemerkungen noch vorausgeschickt. Es gilt einerseits nüchtern, so denke ich, den Ort des Menschen in hybriden Konstellationen verteilter Zeichenprozesse zu reflektieren, andererseits Maschinen selber, die bislang lediglich den Status bloßen Instrumentariums genoßen unaufgeregt als Objekte des Schreibens in Betracht zu ziehen. Wenn hier vom Subjekt des Schreibens die Rede ist, ist damit eine begriffliche Alternative vorgeschlagen, die einerseits den bloß kausalen, instrumentellen Charakter von Urheberschaft übersteigt und andererseits den ideellen romantischen Charakter von Autorschaft unterschreitet.

Das Subjekt des Schreibens ist nicht mehr oder nicht weniger als ein variabel besetzbarer Ort in historisch situierten Gefügen des Schreibens. Für die Rekonstruktion solcher Schreibgefüge, daran lassen die schon erwähnten Diskussionen im Bereich künstlicher Intelligenz kaum Zweifel, ist es leider allzu verlockend, einen möglichen Subjektstatus solcher Systeme, die keine passiven Instrumente mehr sind, analog zum bekannten Vorbild menschlicher Autorschaft zu denken.

Was einstmals den Menschen auszeichnete – Bewusstsein, Erfahrung, Kreativität – wird an die Maschinen übertragen und den Menschen selber, so steht angesichts der verbreiteten Affinität zu einfachen Symmetrien oder Dystopien, etwa einer technischen Singularität zu vermuten, perspektivisch ein korrespondierender Platz unter den bloßen Instrumenten des Schreibens zugewiesen. Doch eine derart schlichte Rollentauschfantasie zwischen Menschen und Maschinen, bisherigen Subjekten und Instrumenten behielte denn noch genau die Trennung bei, auf der ja die humanistische Standardannahme des Schreibens fußt und die den aktuellen Sprachmodellen gerade fraglich wird. Also scheint die Standardannahme über Subjekte und Geräte aufzugeben, ohne sie zugleich durch ihre schlichte Inversion zu ersetzen, für eine Bestandsaufnahme von Schreibgefügen künstlicher Intelligenz heute unerlässlich Zukunft umso mehr. Denn es soll angesichts der Schriftproduktion, die unter der Beteiligung zeitgenössischer Sprachmodelle erfolgt, niemand leugnen, dass auch Menschen weiterhin an ihr teilhaben können und in konkret zu beschreibenden Situationen auch teilhaben. Sie produzieren zum Beispiel Trainingsdaten, programmieren neuronale Netze, initiieren die Berechnung statistischer Distribution, sie formulieren Prompts und editieren Maschinen Outputs, die als Trainingsdaten der nächsten Modelliteration dienen, womit die schemenhafte Auflistung, noch von Menschen geleisteter Schreibpraktiken im Zeitalter der Sprachmodelle einen Kreislauf schliesst.

Aber es soll angesichts dieses Kreislaufs auch niemand leugnen, dass Menschen nicht mehr dieselbe Rolle in solchen Schreibgefügen einnehmen, wie sie ihn durch Autorschaftskonzeption und Subjektphilosophien seit 1800 die längste Zeit zugedacht war und wie sie auch heute noch unser Alltagsverständnis von romantischer, juristischer oder nur kausaler Urheberschaft bestimmt. Der Ort des Schreibsubjekts ist heute anderweitig besetzt. Das gilt es angesichts von etwa ChatGPT, dem Programm, dem Autoschaft zugesprochen wurde, erst einmal anzuerkennen. Was den Ort einnimmt, ist nicht mehr, und nicht mehr nur der Mensch, und auch nicht die Maschine, sondern womöglich eine heterogene Figur, deren Name erst noch gefunden werden müsste. Dieser Name hätte dafür Sorge zu tragen, das Denken dieses Ortes und seiner Besitzung langfristig vom Erbe der schlichten Dichotomie von Mensch und Maschine zu befreien. Nur so haben wir eine Chance, dieses neue Schreiben als das zu erkennen, was es ist.

Baron: Spannend. Vielen Dank, Moritz Hiller. Ja, ich würde sagen, wir diskutieren dann im Anschluss an deine Performance, auch über den Vortrag. Aber dann würde ich sagen, kommen wir jetzt zu dir, Moritz Wehrmann. Möchtest du ein paar einleitende Worte geben?

Wehrmann: Genau. Ich würde erst mal so ein paar Worte sagen für die Hörerinnen, die jetzt nicht gerade hier vor Ort sein können. Also wir sitzen hier an dem Tisch, die Installation ist nebenan aufgebaut und ich werde da gleich mal rüber gehen und mich hauptsächlich dem Publikum, das hier vor Ort vorhanden ist, zuwenden. Ich hoffe, euch, liebe abwesenden Hörerinnen, trotzdem so ein bisschen Gedanken bei mir zu halten. Und zuallererst möchte ich noch betonen, dass es eine Arbeit ist, die nicht von mir allein stammt, sondern die ich zusammen mit Ido Ramati entwickelt habe. Ido Ramati ist Professor an der HebrewUniversity in Jerusalem und kann leider heute nicht mit dabei sein - genau, und danken möchte ich noch dem Kreativfonds der Bauhaus-Universität und den studierenden Hörerinnen möchte ich hiermit auch noch mal empfehlen: Bewerbt euch dafür, das ist eine super Möglichkeit, Experimente durchzuführen und ein bisschen Geld dafür zu bekommen.

So, jetzt aber zur Installation selbst.

Vielleicht beschreibe ich die erstmal ganz kurz. Die besteht aus sehr sehr vielen Kabeln und an den Kabeln sind kleine Halter mit Knöpfen dran. Und die Idee dieser Installation war es - gemeinsam mit Ido Ramati, der sich sehr viel mit Typewritern und Keyboards beschäftigt hat in seinen Studien - eine Tastatur aufzulösen und in den Raum zu bringen und dadurch ein neues Verhältnis zwischen dem schreibenden Raum und den Texten und Menschen zu ermöglichen und ein kollaboratives Schreiben zu schaffen, das nicht so ist, wie man das jetzt beispielsweise von Google Docs oder Ähnlichem kennt, wo man ja auch sagen könnte, das ist ein gemeinsames Arbeiten am Text. Sondern wir teilen hier nicht nur die Schreiboberfläche, sondern das Schreibmedium selbst. Also jeder, jede Nutzerin bekommt eine Taste oder zwei Tasten, je nach Anzahl der Anwesenden zugewiesen und kann damit dann agieren, ist aber natürlich auf die Zusammenarbeit mit allen anderen Schreibenden angewiesen. Und so viel wie diese Installation auch Texte produzieren kann, ist es trotzdem ein interessanter oder wesentlicher Fokus für mich auch zu schauen, was für soziale Situationen und Operationen produziert sie. Es geht nicht nur um den Output, sondern auch um das Schreiben selbst.

Baron: Liebe Zuhörerinnen und Zuhörer An dieser Stelle unterbreche ich kurz die Aufnahme von der Messe. Da Moritz Wehrmann das Mikrofon auf der Messe weil er nicht zu seiner Installation Collab Keys mitnehmen konnte, erkläre ich euch nun kurz aus dem Off was wir in seiner Lecture Performance Geteiltes Schreiben erlebt haben. Zunächst das technische Set-Up. Moritz hat hier auf unserem Stand eine Art Schreibmaschine aufgebaut. Die besteht zunächst erstmal aus einem Bildschirm, auf dem steht jetzt erstmal noch gar nichts und man sieht nur eine weiße Fläche. Darin angeschlossen ist eine schwarze Box, von der aus dreißig lange Kabel kommen und an deren Ende sich Tasten oder man könnte es auch Druckknöpfe nennen, befinden. Als Vorbereitung auf die Performance weist uns Moritz zunächst den anderen Moritz, das Messe-Team, mich und die zahlreichen Zuschauerinnen uns herum an, jeweils eine Taste in jede Hand zu nehmen wobei jeder dieser Knöpfe in unseren Händen genau einem Buchstaben entspricht. Aber der Buchstaben steht natürlich nicht drauf.

Das wäre ja auch zu einfach, erklärt Moritz. Dann stellen wir uns alle im Halbkreis auf, mit Blick auf den Bildschirm. Nun beginnt Moritz Wehrmann die eigentliche Performance. Er erklärt, dass er die Installation gemeinsam mit Ido Rahmati von der Hebrew University entwickelt hat und dass wir als Gäste nun etwas gemeinsam erleben werden, was wir sonst, ja, tagtäglich tun. Wir werden schreiben, aber nicht individuell - sondern gemeinsam. Das klingt zwar einfach, erklärt er, würde sich aber schnell als komplizierter rausstellen. Es ist ein Schreibexperiment, das sowohl soziale Gefüge als auch die Koordinationsleistung eines Schreibprozesses sichtbar und erlebbar werden lässt. Ja, dafür müssen wir uns nur synchronisieren, meint er.

Und gemeinsam ein Protokoll entwickeln damit sinnhafte Worte und Sätze geschrieben werden können. Das ist jetzt erstmal die Theorie. Aber in der Praxis sah das noch ein bisschen anders aus. So, wir befinden uns nun also immer noch auf der Leipziger Buchmesse und stehen zu fünfzehnt in einem Halbkreis ein Bildschirm herum. Ähnlich dem Prompting von Large Language Models gibt Moritz Wehrmann während der Performance den Mitwirkenden immer wieder Handlungsanweisungen, die wir auszuführen haben. Die erste Aufgabe besteht darin, herauszufinden, welche zwei Buchstaben für die zwei Knöpfe jedes Teilnehmers und jeder Teilnehmerin stehen.

Wildes Drücken beginnt. C, R, D, V, H, S, J, Punkt, K - usw. Die Buchstaben erscheinen ohne Ordnung und Rhythmus auf dem Bildschirm. Plötzlich ruft jemand in die Gruppe, dass wir doch jetzt mal geordnet vorgehen könnten. Gute Idee.

Die Gruppe einigt sich darauf, einen Knopf nach dem anderen zu drücken. Nun gelingt es uns halbwegs effizient, unsere jeweiligen Buchstaben heraus zu finden. Für großes Gelächter sorgt dabei, dass es einige Störenfriede gibt, die sich immer wieder einmischen und drücken, obwohl sie gar nicht an der Reihe sind. Unsere zweite Aufgabe lautet: Schreibt ein gemeinsames Wort. Raunen geht durch die Gruppe. Und ja, ich muss zugeben an dieser Stelle fühlten wir uns schon, oder ich zumindest, als Teil einer Gruppe. Dann wieder großes Gelächter als das wilde Rumdrücken wieder beginnt.

T, E, E, H, H, P, Y, P. Jemand aus der Gruppe ruft also wieder laut und regt an, dass wir uns doch mal absprechen sollten, was wir schreiben. Alle sind erstmal damit einverstanden und dann gibt es eine Person, die spontan ein M drückt. Danach folgt ein spontanes A.

„Lasst uns Mama schreiben!“ Ja, gute Idee. Schnell schafft es die Gruppe also ein weiteres M und ein A zu schreiben. Die Gruppe jubelt. Danach schaffen wir es sogar auch noch ein „Auto" zu schreiben und ein „Ziemlich gut“. In der Gruppe breitet sich danach Stolz aus und ich persönlich fühle mich meiner Gruppe nicht nur zugehörig, sondern ich fühle mich auch wahnsinnig selbstwirksam. Aus meiner Sicht könnten wir so die nächsten drei Stunden weitermachen. Da unterbricht uns Moritz aber mit strengem Blick und gibt uns die nächste Anweisung.

Versucht jetzt bitte gemeinsam ein Wort zu schreiben, ohne euch abzusprechen, sagt er. Oha! Kommt es aus der Gruppe, begleitet durch ein Kichern und Prusten. An dieser Stelle gleicht die Stimmung der Gruppe nun der Aufregung einer Schülergruppe vor Beginn der Klassenfahrt. Gleichzeitig sinkt aber auch unsere Fähigkeit uns zu konzentrieren. Der Spieltrieb siegt also wieder und wir produzieren wieder Sachen wie KWIEZNTSTSN. Ich bin mir ziemlich sicher, dass wir es schon noch geschafft hätten uns zu beruhigen und ohne Absprache ein Wort schreiben. Aber das hätte sehr viel Konzentration gebraucht und die Zeit rannte uns dann schliesslich doch davon. Wir hatten ja schliesslich einen Rahmen von etwa einer Stunde gesetzt. Mit Blick auf die Uhr und zum Moritz hinüber musste ich dann doch alle zur Ordnung rufen. Ich und Moritz Wehrmann und Moritz Hiller kehren also an unsere Sitzplätze zurück, beruhigen uns kurz, nehmen einen Schluck Wasser und setzen unser Gespräch fort.

Baron: Ja, vielen Dank, Moritz Wehrmann, für diese faszinierende Performance. Ich glaube, wir hatten alle sehr viel Spaß. Und ich würde jetzt mal so ein bisschen überleiten in die letzten zwanzig Minuten, in denen wir hoffentlich noch ein kleines bisschen ins Diskutieren kommen. Und ich habe mir als erste Frage notiert, dass ich dich, Moritz Hiller, einfach mal nach deinen Eindrücken fragen wollte. Wie ist es dir ergangen mit der Installation?

Hiller: Abgesehen davon, dass es wahnsinnig viel Freude gemacht hat, ist es ein Zustand kompletter Desorientierung. Ich finde, was die Installation von Moritz Wehrmann also wirklich absolut klar vor Augen führt, ist, wie fremd Zeichen uns eigentlich sein können und dass wie viele Vorbedingungen erfüllt sein müssen. Wie viel Arbeit geleistet werden muss. Dass Zeichen etwas produzieren, was uns, wie soll ich sagen, vertraut erscheint. Sinn ergibt für uns, uns den Eindruck von Bedeutung vermittelt. Die Installation von von Moritz Wehrmann, im Gegenteil, dazu rückt eben ins Bild, wie zersplittert Zeichenprozesse eigentlich sind. Dass das, das wir's wirklich mit dem - ich hab von „Schreibgefügen“ gesprochen in meinem Vortrag - dass das ein zusammengestückeltes Stückwerk ist, das ganz viel Koordinationsarbeit, du hast von Protokollen gesprochen, ganz viel Koordinationsarbeit geleistet werden muss, um das zu einem kohärenten Ganzen zusammenzuführen.

Und von dort ausgehend, denke ich, sind wir erlaubt, deine Installation zu fragen: Okay, ist das jetzt nicht nur dieses Schreibgerät, das du extra konstruiert hast dafür, sondern - oder ist das etwas, was im Allgemeinen Schreibprozesse zu jedem historischen Zeitpunkt, zu jedem Stand von Medientechnik und zu jedem Stand von Datenverarbeitung immer schon kennzeichnet, dass die Zeichen etwas vollkommen zersplittertes, im Grunde autonom, von uns Autonomes sind, dass erst durch ganz viel Arbeit, durch ganz viel Zutun, zu etwas zusammengeführt werden kann, was dann uns vertraut erscheint.

Ja, und wenn ich den einen Satz vielleicht noch sagen darf. Ich finde, dass es, wenn man sich die Schreibprozesse, die Schreibsituation der Vergangenheit anguckt, indem man in der Regel einen Menschen hatte, der dann eine Schreibmaschine oder einen Stift auch nur bedient, einigermassen nahe liegt davon auszugehen, dass Schreibprozesse eine, dass das kohärente Prozesse sind, die in irgendeiner Weise, natürlicher Weise, ja, sozusagen eine Fügung haben. Und dass aber, wie gesagt, deine Installation eben so das als nicht [unv., 33:16] uns im Grunde genommen vor Augen führt, ne? Das ist so, also dass es ein Trugbild einfach ist. Möglicherweise. Und Ich glaube, dass von dort aus gehen eine ganze Menge eben gesagt werden kann über das heutige Schreiben von Large Language Models. Die in einer selben Weise eben eine andere Fügung von Schreibprozessen irgendwie bedeuten.

Wehrmann: Ja, was mir auch gerade noch selber so bewusst geworden ist, dass wir nicht im Schreiben in dem Moment aushandeln können, sondern dass wir irgendwie einen medialen Shift machen müssen zum Sprechen hin. Also, bevor wir überhaupt das eine Schreibwerkzeug verstehen und handlen können, brauchen wir erstmal immer ein anderes, und vielleicht gibt es dann auch diese vielen Fragmente unterschiedlicher medialer Techniken oder kultureller Techniken, die da irgendwie so zusammenkommen müssen. Und was ich auch in dem Bezug ganz interessant finde, man kann ja gerade bei LLMs irgendwie auch feststellen, dass es genau diese Probleme der Verallgemeinerung gibt, also, dass sehr viele Allgemeinplätze produziert werden. Also so die kleinsten gemeinsamen Nenner quasi produziert werden, weil es ansonsten so sehr fragmentarisch wäre. Also, weil einfach zu viele Menschen zu viele unterschiedliche Ansichten und Gedanken haben und das sehe ich auf jeden Fall auch als ein großes Problem der LLMs an, dass es eine Form von Verallgemeinerung benötigt bzw., wenn es nicht verallgemeinert ist, den Nutzer*innen als etwas gegenübertreten muss, was den Nutzer*innen ein Gegenüber sein kann: Also, dass man weiß: Das, was da produziert wird, ist nicht die Wahrheit, sondern es ist eine Wahrheit.

Hiller: Würdest du sagen - darf ich vielleicht anknüpfen? Da würdest du vielleicht auch zustimmen, der These, dass es vor allen Dingen in diesem - in deiner Installation, die Individualität einzelner Leute ist, die sozusagen anfangen, miteinander zu sprechen, die eine totale Hürde im Zustandekommen von sinnvollen Texten bedeutet. Also wären wir alle, würden wir uns sozusagen alle, würden wir alle nur noch schreiben. Also wirklich im materiellen Sinne nur noch Zeichen produzieren. Unter Maßgabe, naja, also mathematische Übergangswahrscheinlichkeiten, von einem Zeichen zum anderen. In der deutschen Sprache kommt das E so und so häufig vor, und wenn ein E geschrieben worden ist, folgt in aller Regel der und der Buchstabe danach. Wenn wir nur so schreiben würden, gäbe es wahrscheinlich diese ganzen Widerstände, Aushandlungsprozesse, die dann wirklich durch Aushandlungsprozesse aus der Welt geschafft werden müssen, vielleicht gar nicht. Würdest du denken, dass deine Installation das vor Augen führen kann?

Wehrmann: Ja, ich denke auf jeden Fall und denke auch - also, ich hab mich so im Vorhinein dieses Gesprächs auch so ein bisschen mit der Frage beschäftigt: Wozu kann diese Installation dann überhaupt dienen? Und dann ist mir so eine Situation eingefallen, in der ich die Installation gerne mal sehen würde, und das wäre in einem Raum mit Menschen, die komplett unterschiedliche Ansichten und Ideen haben und die es vielleicht schaffen, zwar dieses Schreibwerkzeug einzulernen, aber völlig konträre Ideen hätten über das, was ausgesagt werden sollte.

Baron: Ich glaube, das wäre ein faszinierendes Experiment. Es gibt ein fantastisches Kartenspiel, an das mich deine Installation erinnert hat. Vielleicht kennst du das auch: Da geht es quasi darum, dass man kollaborativ die Karten in der richtigen Reihenfolge in die Mitte legt. Also da stehen einfach nur Zahlen drauf von eins bis einhundert, und wir wissen aber untereinander nicht, wer welche Karten hat, und wir dürfen nicht miteinander kommunizieren. Das heißt, dann geht es ähnlich wie in deiner Installation darum, dass wir uns Stück für Stück besser kennenlernen und merken, wie lange ist die Lunte bei jedem? Und dann groovt man sich irgendwann ein - das ist ganz witzig. Jedes Mal, wenn man ein Level geschafft hat, kriegt man so ein kleines „Du hast jetzt das Level der so und so viel der höchsten Harmonie erreicht!“

Und ähnlich konnte ich mir vorstellen, dass die Installation oder die Arbeit mit der Installation dann dazu führt, dass tatsächlich Konflikte und Andersdenken völlig aufgebrochen werden. Weil man eine Harmonie oder einfach auch so eine Begeisterung miteinander entwickelt.

Wehrmann: Ich kann mir auch vorstellen, einerseits, was ich vorhin auch schon gesagt habe: Mir geht es bei dieser Installation auch tatsächlich gar nicht so sehr um die Texte, zumindest noch nicht. Also, wenn es das perfekte Schreiborchester irgendwann gibt, wäre ich froh darüber. Aber mir geht es tatsächlich eher um diese soziale Komponente dabei, und ich würde es natürlich auch gerne in sehr unterschiedlichen Settings ausprobieren und glaube, dass man anhand der Fähigkeit, zusammenzuschreiben oder nicht zusammenzuschreiben, auf jeden Fall auch so etwas über die Gruppenstruktur oder Dynamiken ablesen kann.

Baron: Ja, vielleicht würde ich das Gespräch nochmal zurück lenken auf eine unserer Kernfragen. Denn: Wer schreibt denn hier bei Large Language Models? Ich weiß, ihr habt das beide schon so ein bisschen angeteasert, und du vor allem auch in deinem Vortrag, Moritz Hiller. Aber trotzdem sagt es doch nochmal ein bisschen knackiger, vielleicht allgemein verständlicher: Wo steht ihr genau? Wo ist euer Standpunkt in Bezug darauf, wer das Subjekt ist und wer das Werkzeug ist?

Hiller: Mein Standpunkt wäre der, zu sagen, dass diese Unterscheidung zwischen Subjekt und Werkzeug, mit der wir seit vielen, vielen Jahren hantieren, von der wir ausgehen, klar erkennbar nicht mehr in der Weise zu halten ist. Mit Large Language Models, wie wir das eben - wie soll ich sagen - seit 1800 als bestimmte Konzepte von Autorschaft aufgekommen sind, eben gewohnt waren zu sagen.

Baron: Okay, das hab ich mich nämlich die ganze Zeit gefragt. Du hast immer von der Zahl 1800 geredet. Was ist denn da passiert?

Hiller: Warum 1800? Das ist gilt als Chiffre im Grunde genommen, Weimar Klassik. Autorschaftskonzepte, die mit solchen Leuten wie Goethe, Schiller, etc. In die Welt kommen. Ideen eines genialen Schöpfersubjekts, der eben sagen kann, was er will. Und einem Leser, der lesen kann, was er darf. Was sich im Rückblick eben als naja, als eine bestimmte historische Figur überhaupt erst über zeigt, die in einem bestimmten medialen Umfeld überhaupt nur entstehen kann als Idee. Es gäbe - es gibt diesen einen, den einen Ort des Schreibens, der von einem Menschen eingenommen wird, der in Form eines genialen Schöpfersubjekts agiert. In dem Moment, wo er schreibt - oder sie, wo er schreibt. Denn es waren ja tatsächlich nur Männer zu der Zeit.

Baron: Und wenn ich dich jetzt richtig verstehe, sagst du sozusagen, dass jetzt Large Language Model und Autor, Autorin sich auf Augenhöhe begegnen? Plötzlich?

Hiller: Das wären nicht meine Worte, aber andersrum gesagt: Es gab niemals - diese Unterscheidung ist eine, die medientechnisch, schreibtechnisch, zeichenmateriell nie gegeben war, sondern die sozusagen diskursiv aufgepfropft worden ist auf mediale Situation.

Wehrmann: Ich glaube, ich würde -

Hiller: Schon immer waren es verteilte Schreibprozesse, in denen Medien und Menschen zusammen interagieren. Und es ergeben sich Widerstände in diesen gemeinsamen Interaktionen. Widerstände, so wie wir sie heute auch in der Installation von Moritz Wehrmann nochmal sehr körperlich erfahren konnten. Und diese Widerstände müssen durch bestimmte Programme - du hast von Protokollen gesprochen, wie gesagt - versucht werden, aus der Welt geschaffen zu werden, damit am Ende Texte dabei herauskommt, die von anderen Menschen in der Regel irgendwie als sinnvoll gelesen werden können.

Wehrmann: Ich habe beim Zuhören über deinen Text auch so ein bisschen darüber nachgedacht - Es ist so ein Gedankenexperiment: Wie wäre es, wenn ein Mensch es geschafft hätte, all die Texte zu lesen, die in den GPT Modellen verarbeitet wurden, und all das Wissen anzusammeln und dann Texte zu produzieren, die identisch sind mit Texten, die ein Large Language Model produzieren würde. Und hab dann gedacht, naja, vielleicht sind wir nicht alle auch irgendwie so was wie Large Language Models, und zwar schon immer eine hybride Form von Autorschaft, ohne dass wir uns das zugestehen wollten, weil's natürlich sehr schön ist zu sagen: Ich habe das erfunden, ich habe das gedacht. Aber da könnte man ja schon auch sagen, dieser berühmte alte Spruch, Wir stehen alle auf Schultern von Riesen. Vielleicht ist es auch so, dass genau die Large Language Models uns jetzt quasi zeigen, also dass wir die Möglichkeit haben, mit einem neuen Schreiben auf das alte Schreiben zu gucken, dass man irgendwie sieht: Ah ja, so richtig, wie wir das vorher wahrgenommen haben, ganz so ist es ja gar nicht.

Hiller: Wie wäre es - also, Zustimmung. Mir wäre es nur zu einfach, zu sagen: „Anhand von Large Language Models erkennen wir jetzt, dass wir immer schon Maschinen waren“. Das wäre sozusagen die Umkehrung der bisherigen Standardannahme von Schreibsituationen, die ich eben auch vermeiden würde. Also die schlichte Invertierung des Ganzen führt wieder dazu: „Okay, es gibt irgendwie Instrumente und es gibt irgendwie Subjekte und vormals haben wir uns eben auf Seite der Subjekte gewähnt“. Jetzt müssen wir leider erkennen: „Ah schade, wir waren doch immer nur Maschinen“. So einfach - würde ich das Feld des Schreibens heute nicht beschreiben wollen. Sondern eher, das wäre ein Ansatz der Kulturtechnikforschung, zu sagen, was wir „Menschen" und was wir „Maschinen“ nennen, sind keine Entitäten, die immer schon von sich aus oder in natürlicher Weise gegeben wären, sondern die in bestimmten medialen Prozessen, z.B. des Schreibens oder des Lesens, in unterschiedlichen historischen Situationen immer neu ausgehandelt werden. Ja?

Baron: Letzten Endes können wir ja nur schreiben, wenn wir den Stift in der Hand haben. Ohne den Stift kann man nicht schreiben, fertig. Wir brauchen das Werkzeug.

Hiller: Und nicht von ungefähr ist 1800 eben ein bestimmtes Autorschaftskonzept anhand solcher Leute wie Goethe aufgekommen. Das ist also in diesem, wie soll ich sagen, dieser Schreibökologie 1800 war das ein, wie soll ich sagen? Ist das eine intuitiv naheliegende Konzeption von Schreibprozessen gewesen. Heute haben wir offensichtlich eine andere technische Situation des Schreibens, der Zeichenproduktion. Und dementsprechend wäre eben die Überlegung zu sagen, dann schauen wir genauer hin und gucken. Vielleicht, also kann man erkennen, jetzt schon, klar, ob es dort neue Formen von Subjektivität oder Instrumentalität, die eben eine Mischung von beiden bedeuten, ob die dort erkennbar sind.

Baron: Ja, ist die Frage, ob es wirklich nur ein neues Instrument ist und es gibt einen Wandel, wie es schon immer Wandel gab. Moritz Wehrmann, du hast mir noch eine Frage aufgeschrieben, die ich dir gerne zurückstellen würde: Was macht denn das große Sprachmodell mit der Kommunikation zwischen uns Menschen?

Wehrmann: Das finde ich auf jeden Fall auch eine sehr, sehr interessante Frage und ich glaube, dass es da definitiv auch mehrere Richtungen gibt. Also, ich fange erstmal mit der optimistischen Sicht an. Zum einen ermöglicht es uns, plötzlich in anderen Sprachen zu sprechen. Wir sind in der Lage, Sprachen zu lernen, vielleicht uns Konzepte erklären zu lassen von anderen Menschen. Und insofern kann man sagen, es kann schon sowas wie ein Adapter sein zwischen verschiedenen Menschen und Kulturen. Aber gleichzeitig kann man, glaube ich, auch beobachten, dass es einen generellen Trend von Digitalisierung unterstützt. Nämlich, dass Menschen weniger mit Menschen sprechen, sondern mehr mit Maschinen. Und ich glaube, das ist eher problematisch zu sehen. Wenn ich keinen Experten mehr fragen muss oder keinen Freund, der es vielleicht besser weiß, sondern mein Freund, der es besser weiß, immer schon als App auf meinem Handy ist, tut das den Freundschaften nicht gut. Und ich glaube, an dem Aspekt sollte man auf jeden Fall arbeiten.

Baron: Hast du dazu noch einen Standpunkt, Moritz Hiller? - Er schüttelt nur mit dem Kopf. Wir sind so langsam am Ende unseres Gesprächs. Habt ihr denn noch Fragen aneinander?

Wehrmann: Ich hätte noch eine Frage. Und zwar hast du von dem Vermenschlichungsreflex gesprochen. Ich habe vor einer Weile ein Zitat gelesen von Wittgenstein, der über den Turing Test gesagt hat, dass man mit dem Turing Test nicht die Intelligenz der Maschine testet, sondern vielmehr die Mechanisierbarkeit der Menschen. Und inwiefern würdest du sagen, passiert heute halt auch diese Mechanisierbarkeit oder gibt es genau diesen selben Reflex, dass man irgendwie denkt, Menschen sind komplett mechanisierbar? Oder wie ist dieses Verhältnis zwischen Vermenschlichung und Vermaschinisierung? Ist eine große Frage.

Hiller: Keine schnelle Antwort.

Wehrmann: Okay. Ja, das ist auch wahrscheinlich eine zu große Frage für eine schnelle Antwort.

Hiller: Keine schnelle, einem Podcast angemessene, Antwort.

Baron: Vielleicht könntet ihr nochmal über diese Vermenschlichung sprechen. Ich finde das ist doch nochmal ein interessanter Punkt. Ich meine wir sagen oder ich sage ChatGPT meistens „Hallo“, wenn ich eintrete. Und ich sag auch „Danke“.

Wehrmann: Ja, was auch zu besseren Ergebnissen führt angeblich.

Baron: Hab ich auch gehört.

Wehrmann: Nettigkeit und Höflichkeit. Es gibt -

Baron: Oder drohen. Man kann ihn auch erpressen, hab ich gehört, gibt wohl auch -

Wehrmann: Ja, genau. Das sind vielleicht auch noch so ganz interessante Aspekte, wo man plötzlich über Statistiken bestimmte menschliche Eigenschaften oder so was rausfinden, rausfiltern kann. Ja, keine Ahnung.

Baron: Am Ende des Tages hält es uns dann doch wieder nur den Spiegel vor, wenn man ChatGPT damit zu besseren Ergebnissen anregen kann, dass man ihnen 1000 Euro anbietet für eine gute Antwort, dann sagt das doch ganz schön was über die Daten aus, mit dem das trainiert wurde. Wisst ihr, was ich meine? Ich schweife mal ein bisschen ab.

Wehrmann: Keine Ahnung. Es gibt auf jeden Fall eintausend Beispiele davon, inwiefern diese Vermenschlichung teilweise vielleicht sogar zu Recht passiert, weil menschliche Eigenschaften da drin sind, die wir sonst nicht so nachprüfen konnten. Wir wussten zwar, dass es irgendwie - vielleicht in der sozialen Kommunikation - gut ist, ein bisschen netter zu sein zueinander, und wenn man das dann so stochastisch belegen kann, dass das so ist, ist vielleicht für bestimmte Bereiche der Wissenschaft auch interessant.

Hiller: Ich würde noch einmal gerne darauf hinweisen wollen, dass dieser Effekt der Vermenschlichung ganz große Risiken in sich birgt. Und zwar eben das Risiko, dass es uns unmöglich macht zu erkennen, in welcher Art und Weise diese Maschinen tatsächlich Zeichen produzieren, Texte schreiben usw. usf. In dem Moment, wo wir dem Kategorien unseres menschlich bekannte Kategorien unseres menschlichen Schreibens aufzwingen oder immer schon durch diese Brille hindurch diese Medien angucken, wir eben nicht erkennen können, was dort im Hintergrund passiert. Also, das war die Idee dahinter zu sagen, es hat eine gewisse - es hat Strategie, dass ChatGPT und das dahinterstehende Sprachmodell GPT 3.5 oder 3.4, welche Versionen man auch immer zu Grunde legt, dass die uns gegenüber treten als gleichberechtigte Kommunikationspartner in einer Gesprächssituation. Dass dieser Chatbot uns mit „Hallo“ oder wie auch immer anspricht, so wie wir es gewohnt sind, von anderen Menschen angesprochen zu werden, führt eben dazu, dass wir vor allem den Eindruck einer Gesprächssituation haben, die simuliert wird. Und darüber hinaus sehr leicht vergessen, was im Hintergrund passiert.Eben, dass einfach nur schriftliche Zeichen produziert werden. Und mit „Risiko“ meine ich eben, wenn wir uns nicht im Klaren darüber sind, in welcher Art und Weise diese Maschinen zeichentheoretisch und zeichenpraktisch tatsächlich funktionieren, wir niemals wirklich die Chance zu einer transformativen Kritik oder was auch immer diesen Namen eben verdient, überhaupt haben. Also in dem Augenblick, wo wir uns auf dieses Spiegelkabinett einlassen, ChatGPT und ähnlichen Maschinen gleichberechtigte oder ebenbürtige oder gleich geformte menschliche Gesprächspartner zu erkennen, haben wir nicht die Möglichkeit, sie als diese Maschinen zu adressieren und diese Schreibpraktiken als solche zu kritisieren, die dort dann tatsächlich ablaufen. Und die wirklich ja, das muss ja kaum heute nochmal gesagt werden, die wirklich massive Effekte weltweit hat. Ausbeutungspraktiken von Arbeitskraft im globalen Süden, Extraktion der Ressourcen dieses Planeten etc. pp.

Baron: Das ist doch ein super Schlußwort. Unsere Stunde ist leider vorbei. Ich bedanke mich nochmal bei meinen beiden Moritz Wehrmann und Moritz Hiller. Mein Name war Nicole Baron. Und ich bedanke mich auch bei unserem wunderbar engagierten Publikum hier bei der Leipziger Buchmesse. Es hat sehr viel Spaß gemacht mit Ihnen und mit euch beiden. Und dann Danke und ein schöner Messetag euch noch

Beide: Gleichfalls, vielen Dank! Dankeschön!

Outro: Das war Zwischen Magie und Handwerk – ein Podcast über Lehre und Lernen an der Bauhaus Universität Weimar. Neue Folgen erscheinen wöchentlich auf allen gängigen Podcast Plattformen. Abonniere den Podcast, um keine weitere Folge zu verpassen!