23.03.2023

Kennen Sie ChatGPT? Eine fast rhetorische Frage, denn wer kennt das „Textwunder“ nicht? Der Hype um den Sprachassistenten und das zugrundeliegende Sprachmodell ist riesig. Dabei geht es meist um Nutzen und Anwendungsmöglichkeiten, manchmal aber auch um mögliche Fehlinformation und mogelnden Missbrauch. Wir werfen einen Blick auf die Details, die bei der richtigen Nutzung zu beachten sind.

Nachdem der US-Anbieter OpenAI Ende November 2022 den Zugang zum System als Demoversion freigab, hat es einen beispiellosen Start hingelegt. Schon nach fünf Tagen hatte ChatGPT mehr als 1 Mio. Nutzer:innen, eine Zahl, für die Facebook zehn und Instagram immerhin noch zwei Monate gebraucht hat. Aktuell nutzen ca. 100 Mio. Menschen pro Monat den Dienst – ein beispielloser Hype in der jüngeren digitalen Geschichte.

„Chat Generative Pretrained Transformer“ ist ein Sprachmodell (Large Language Model/LLM), das auf künstlicher Intelligenz bzw. einem Deep Neural Network basiert. Es wurde mit enormen Mengen von Daten trainiert, um menschliche Sprache nachzuahmen. Dank seiner Chat-Oberfläche ermöglicht es eine direkte Interaktion. Es versteht textuelle Eingaben, kann sie auf natürlich erscheinende Weise beantworten und liefert als Antwort Texte, die klingen, als stammen sie vom Menschen. Das System kann Fragen beantworten oder Anweisungen ausführen, beispielsweise Texte zusammenfassen, Inhalte in Gedichtform bringen oder Programmiercode für bestimmte Aufgabenstellungen liefern.

Damit unterscheidet sich ChatGPT klar von früheren KI-basierten Sprachmodellen, die nicht hielten, was sie versprachen. Microsoft nahm seinen Chatbot „Tay“ 2016 nach nur 24 Stunden vom Netz, Facebooks „Galactica“ hielt im vergangenen Jahr drei Tage durch. Beide liefen mit rassistischen oder sinnlosen Aussagen schnell aus dem Ruder.

ChatGPT stellt die bisherige Textproduktion auf den Kopf und gibt den KI-basierten Anwendungsmöglichkeiten beeindruckenden Schub. Nicht wenige Textproduzent:innen fühlen sich davon existenziell bedroht und die Mitbewerber sind unter Zugzwang.
Und ChatGPT entwickelt sich rasant weiter, aktuell durch die Integration von GPT-4, einem Datenmodell, das mit einem Vielfachen des Vorgängermodells GPT-3.5 trainiert wurde und neben der sprachlichen Eingabe auch Bilder als Eingabeform umsetzen kann. Eine besondere Zäsur stellt auch die Bereitstellung dar: Während bisherige Sprachmodelle vor allem in der Forschung zum Einsatz kamen oder in Drittanwendungen eingebunden waren, ermöglicht die Chat-Oberfläche von ChatGPT die einfache Interaktion und alltagstaugliche Nutzung. Egal ob Schüler:innen, Redakteur:innen, Redenschreiber:innen oder Programmierer:innen – jede:r kann nach einer Registrierung bei OpenAI auf das System zugreifen.

Genau diese einfache Bereitstellung, gepaart mit sprachlich sehr guten Ergebnissen, kennt die Übersetzungsbranche schon seit vielen Jahren von neuronaler maschineller Übersetzung (NMT). Auch hier gab es einen wahren Hype, als Anbieter wie DeepL den Dienst kostenlos per Web-Interface zur Verfügung stellten und flüssige Ergebnisse lieferten. Und genau wie bei NMT ist jetzt auch bei den Sprachmodellen die Frage omnipräsent, ob die Systeme den Menschen bald überflüssig machen.

Auf den ersten Blick begeistern die Ergebnisse des KI-basierten Sprachmodells. Die Feinheiten zeigen sich auf den zweiten Blick: ChatGPT liefert sehr simple Texte, die aus dem gelieferten Input und den gefundenen Informationen des Trainingsmaterials zusammengeschrieben werden. Die Frage wird meist wiederholt, und ungewöhnlich oft wird der Konjunktiv verwendet – als Zeichen dafür, dass es nicht um Fakten geht, sondern um einen Vorschlag. Die Antworten können also schlichtweg falsch sein und lassen sich außerdem nicht immer reproduzieren, weil das System keine festen Antworten auf Fragen hat, sondern diese auf Basis statistischer Wahrscheinlichkeiten berechnet.

Die Wortwahl ist einfach, was bei kurzen Texten oft nicht ins Gewicht fällt. Bei längeren Texten und komplexeren Themen fällt dann aber der holzschnittartige Satzbau auf. Stellt man mehr als eine Anfrage, erkennt man nicht nur den Stil wieder, sondern schnell auch zugrundeliegende Muster. Insgesamt wiederholen sich die Ergebnisse schnell.

Und während es für den Privatgebrauch – Geburtstage, Büttenreden, Valentinskarten – durchaus lustig und brauchbar ist, einen Text mal als Gedicht oder im Stil Rilkes umformulieren zu lassen, sind diese Einsatzszenarien im Businesskontext eher uninteressant.

Um vom Hype zum produktiven Nutzen zu kommen, muss man die Grenzen des Systems kennen. Allen voran: ChatGPT liefert keine Informationen in Echtzeit, sondern basierend auf dem Trainingsmaterial bis 2021. Das System weist zwar selbst darauf hin, dass es keine aktuellen Informationen liefern kann, aber eine zweijährige Lücke an Informationen kann in manchen Bereichen die Ergebnisse eben auch stark verzerren.

Gefragt, welche Länder zwischen Frankreich und Portugal liegen, antwortete ChatGPT im Februar 2023, dass diese Länder direkte Nachbarländer seien. Gefragt nach der Länge der gemeinsamen Grenze, lautet die Antwort, dass keine gemeinsame Grenze existiert.

Das Beispiel zeigt deutlich, dass die Faktizität des Outputs das wahrscheinlich größte Risiko der Nutzung darstellt. Denn das Sprachmodell ist eine datenzentrierte KI, die sich auf eine enorme Menge von Daten und Texten aus allen zugänglichen Quellen des Internets stützt und daraus eine Antwort auf gestellte Fragen generiert. Woher die Antwort schlussendlich stammt und ob dafür mehrere Quellen zusammengefasst wurden, bleibt völlig offen. Die Antworten der Maschine können – wie im oben genannten Beispiel mit Weltwissen gut nachvollziehbar – also niemals als faktisch gegeben, sondern immer nur als Information genutzt werden, die geprüft und verifiziert werden muss. Auch dieses Phänomen ist von maschineller Übersetzung hinreichend bekannt: NMT fügt ebenfalls Inhalte hinzu oder lässt Wörter oder Satzteile aus und liefert keine verlässlichen Ergebnisse.

Genau wie bei maschineller Übersetzung handelt es sich bei ChatGPT um ein Tool, das auf Input reagiert und Output liefert. Und für beide Tools gilt: Die künstliche Intelligenz kann gute Ergebnisse liefern und, sinnvoll eingesetzt, die Produktivität bei Texterstellung und Übersetzung steigern.
Entscheidend ist in beiden Bereichen aber, was mit den Ergebnissen passiert, ob und wie diese verifiziert werden und für welche Aufgaben die Tools überhaupt eingesetzt werden. Für beide Schritte – Input und Output – gibt es hilfreiche Tipps.

ChatGPT reagiert nicht auf ganze Fragen, sondern auf Prompts, also Satzteile oder Schlagwörter, die als Eingabe für ein KI-Tool verwendet werden. Es ist also wichtig, präzise und klare Prompts zu formulieren, die das System versteht:

• keine offenen Fragen stellen
• konkrete Fragen stellen und Kontext zur Frage liefern
• möglichst kurze Sätze verwenden
• leicht verständliche Wörter wählen
• Fachjargon oder Slang vermeiden

ChatGPT wurde nach Anbieterangaben so trainiert, dass sensible Informationen anonymisiert oder verschlüsselt werden, um Vertraulichkeit zu gewährleisten. Doch natürlich werden die eingegebenen Daten gespeichert und für das weitere Training des Modells verwendet. Wie bei maschineller Übersetzung gilt also auch, keine sensiblen Informationen einzugeben, um das Risiko eines unautorisierten Zugriffs oder Missbrauchs zu minimieren.

„Eine Antwort des Systems ist nie als endgültige Antwort zu sehen, sondern immer nur als Textvorschlag, der überprüft werden muss.“

Der wohl wichtigste Punkt ist, die Fakten in Texten, die von ChatGPT generiert wurden, auf Korrektheit zu prüfen. Auch hier findet sich eine deutliche Parallele zur maschinellen Übersetzung: Während sich die meisten Nutzer:innen zutrauen, Übersetzungen im ihnen geläufigen Englisch selbst zu prüfen und zu korrigieren, kommen viele etwa bei tschechischen Texten schon an ihre Grenzen. Bezogen auf unser zuvor genanntes Beispiel: Während die meisten Nutzer:innen wissen, dass ChatGPT Spanien und Andorra als Länder zwischen Frankreich und Portugal unterschlagen hat, wäre die Länge der gemeinsamen Grenze zwischen diesen Ländern dann sicherlich etwas, was man recherchieren und verifizieren muss.

Da ChatGPT seine Informationen aus allen verfügbaren Quellen bezieht, können die Ergebnisse immer auch falsch oder ungenau sein. Eine Antwort des Systems ist also nie als endgültige Antwort zu sehen, sondern immer nur als Textvorschlag, der überprüft werden muss. Genau, wie eine maschinelle Übersetzung nie ungeprüft veröffentlicht, sondern in Rohform nur zur Informationsgewinnung genutzt werden sollte.

ChatGPT kann durchaus Teile der Texterstellung optimieren oder auch automatisieren. Dafür ist es hilfreich, die Einsatzmöglichkeiten zu kennen und zu wissen, für welche Zwecke es sich verwenden lässt. Eine Auswahl:

• Briefings
• Vor-Formulierungen
• FAQs
• SEO-Texte
• Produktbeschreibungen und Werbetexte
• Zusammenfassung von bestehenden Texten
• Textabschnitte und -bausteine für Social Media

Zudem kann ChatGPT Inspirationsquelle und Brainstorming-Partner sein. Bei der Erschließung eines Themas Fragen zu stellen, kann zu überraschenden Antworten und Aspekten führen, auf die man allein nicht gekommen wäre.

Bei allen Parallelen lohnt sich außerdem ein Blick auf den Einsatz eines Sprachmodells als maschinelle Übersetzungsquelle. Denn auch dies kann ChatGPT bei entsprechender Anfrage leisten. Einige klassische Fehlerquellen – etwa fehlerhafte Bezüge über Satzgrenzen hinaus – spielen bei Sprachdatenmodellen zum Beispiel kaum noch eine Rolle, da hier der gesamte Text als Kontext betrachtet wird. Erste Tests zeigten aber, dass die Ergebnisse stark von den verwendeten Prompts abhängig sind und im Vergleich zu generischen Systemen aktuell gut bis mäßig ausfallen.
Zudem spielt der Zeitaspekt eine Rolle: Eine Übersetzungsanfrage an ChatGPT dauert aktuell bis zu dreißigmal länger als zum Beispiel an DeepL. Dennoch findet aktuell die Integration in Übersetzungstools statt, um zukünftig auch direkt auf ChatGPT als Übersetzungsquelle zugreifen zu können

Momentan interessanter als die reine maschinelle Übersetzung sind Anwendungsszenarien im Bereich der Terminologieextraktion, der Keyword-Recherche und auch beim Umformulieren von bereits bestehenden Übersetzungen. Auch hier ist der Übergang vom Hype zum produktiven Nutzen bereits zu erkennen, sodass sich immer mehr reale und sinnvolle Einsatzmöglichkeiten ergeben, die vom Sprachmodell sinnvoll unterstützt werden können.

„Künstliche Intelligenz ist auf absehbare Zeit eine probate Ergänzung und willkommene Assistenz, aber kein Ersatz für menschlichen Verstand.“

Wie bei der maschinellen Übersetzung ist auch der Hype um ChatGPT absolut nachvollziehbar: beeindruckende Ergebnisse, eine hohe Benutzerfreundlichkeit und das Gefühl, bisher zeitintensive Aufgaben auf Knopfdruck lösen zu können. Schnell schwingt dann allerdings die Angst mit, dass die Systeme den Menschen – bei NMT Übersetzer:innen, bei Sprachmodellen allgemein Textersteller:innen – überflüssig machen oder ersetzen könnten. Doch beim produktiven Einsatz, gerade auch im professionellen Umfeld, werden auch schnell die aufgezeigten Grenzen deutlich.

Künstliche Intelligenz ist deshalb auf absehbare Zeit eine probate Ergänzung und willkommene Assistenz, aber kein Ersatz für menschlichen Verstand. Sie wird die Produktivität in manchen Berufen deutlich steigern können und die Aufwände für simple und routinemäßige Aufgaben reduzieren. Eine Bedrohung für die technische Redaktion und die Content Creation ist sie noch nicht. Wer gerne schreibt, sollte das auch weiterhin tun.