Gut texten GenAI kann, doch für Recherche ungeeignet ist (Meister Yoda)

Es kam so, wie wir es befürchtet haben: Wir wollten bei #9vor9 die KI-Werkzeuge vorstellen, die wir – der Lars und ich – selbst nutzen beziehungsweise welche Erfahrungen wir damit haben. Und wir sind kaum über die Einsatzgebiete „Erstellen von Texten“ sowie „Suche und Recherche“ hinaus gekommen. Vor rund einem Jahr haben wir uns das Plappermäulchen ChatGPT angeschaut. Wie sieht es jetzt aus?

Lars, der Textgeneratorverweigerer

Angefangen haben wir mit dem Thema, Generative AI-Tools wie ChatGPT und Google Bard zum Erstellen von Texten zu nutzen. In der Diskussion führt Lars mehrere Gründe dafür an, warum er persönlich KI nicht zur Texterstellung nutzt. Seiner Ansicht nach kann KI (zumindest derzeit) nicht die authentische kreative Note eines menschlichen Autors erreichen.

Er schätzt die einzigartige menschliche Perspektive und Kreativität in der Texterstellung und fängt deshalb selbst mit Texten „on scratch“ ohne Hilfe einer KI an. Auch hat Lars Zweifel, dass KI-Generatoren wie ChatGPT den Kontext korrekt zu verstehen. Dies führe oft zu unklaren oder irreführenden Texten.

… und ich nutze die kleinen Helferlein

Ich dagegen nutze Systeme wie ChatGPT oder auch einmal Google Bard dazu, um zumindest einen Rohentwurf von Texten erstellen zu lassen. Insbesondere bei standardisierten Formaten oder aber, wenn ein Input nur stichpunktartig geliefert wird, kann eine KI hilfreich sein und Arbeit abnehmen. Dazu kann und sollte man die Systeme durchaus nutzen.

Bei komplexeren Texten oder persönlichen Reportagen und Kommentaren steigt dagegen der Anteil dessen, was von mir persönlich formuliert wird. Jedoch kann auch hier KI helfen. Für diesen Beitrag habe ich mir beispielsweise von ChatGPT aus dem Transkript unseres Gesprächs die Kernaussagen von Lars heraussuchen lassen. Diese Inhalte habe ich Korrektur gelesen und angereichert. Das Transkript von #9vor9 wurde übrigens von Adobe Premiere Pro erzeugt – und die Qualität hat Verbesserungspotenzial oder wir müssen klarer sprechen.

Neben ChatGPT, Bing Enterprise Chat und Microsoft CoPilot habe ich die WSKI-App der Reporterfabrik im Einsatz. Dieses Sprachmodell versucht die Grundsätze und Regeln des Journalisten und Lehrers Wolf Schneider in einem KI-Modell basierend auf ChatGPT abzubilden. Man kann die App, die im Browser läuft, mit seinem eigenen Text füttern und sich Vorschläge machen lassen, wie der Text besser formuliert werden könnte. Dabei unterscheidet die WSKI-App unterschiedliche Textgattungen, von der Reportage über den Bericht bis zum Kommentar.

Interessant und nützlich ist auch die Analyse des Textes. Hier geht es nicht nur um die klare, verständliche Sprache. Es werden auch Vorschläge gemacht, wie der Text inhaltlich besser gemacht werden kann. Außerdem macht WSKI Vorschläge für Teaser und Überschriften eines Textes. Generell gilt jedoch beim Erstellen von Texten: Immer noch mehrmals drüber schauen, die Qualität sichern und je nach Textgattung und Zielgruppe noch einen persönlichen Touch mitgeben.

Die Einsatzgebiete von GenAI-Werkzeugen zum Erstellen von Texten sind vielfältig. Hinzu kommen viele weitere Möglichkeiten, sich beispielsweise Social Media-Postvorschläge für seine Texte machen zu lassen. Wen wundert es also, dass die Kanäle mit vorgefertigten KI-Texten geflutet werden? Und man braucht kein Prophet zu sein, um vorauszusagen, dass es 2024 noch mehr werden. Ob man so weit gehen muss, wie es Axel Springer tut, die die Nachrichten-App Upday ab Mitte nächsten Jahres vollständig auf Basis von KI schreiben lassen, stellen wir beide in Frage.

Falsche Fakten: Traue weder Microsoft Bing Chat, ChatGPT noch Google Bard

Ganz offensichtlich wird nur der Trainingskorpus durchsucht, und es erfolgt kein weiterer Faktencheck im Netz. Das ist erstaunlich, da ja sowohl Microsoft als auch Google über Suchmaschinen verfügen. Man merke sich: Den Aussagen und scheinbaren Fakten, die die Generative KI derzeit ausspuckt, darf man auf keinen Fall trauen. Die Systeme halluzinieren, so der Fachbegriff. Fakten müssten doppelt und dreifach geprüft werden, das, was wir mal als Journalisten von der Pike auf gelernt haben.

Fakten immer zweifach und dreifach prüfen

Genau das werden aber potentielle einige Nutzerinnen und Nutzer der Tools nicht tun. Wenn Google etwas ausspuckt, wird das schon stimmen. So könnte die Annahme sein, vor der wir nochmals eindringlich warnen. OpenAI, Google und Microsoft müssen dringend nachlegen, damit die Aussagen und Fakten wirklich korrekt sind. Entsprechende Ankündigungen – Deep Search und Gemini – gibt es von beiden Unternehmen, aber die Nagelprobe steht natürlich noch aus.

Bitte keine Firmengeheimnisse in ChatGPT eingeben – dafür gibt es …

An dieser Stelle ist es wichtig, auf einen Punkt aufmerksam zu machen, den wir im Podcast nicht angesprochen haben: Generative AI und Datenschutz, Einsatz im privaten Umfeld und im Beruf im Unternehmen. Sprachmodelle wie ChatGPT 3.5 sind öffentlich zugänglich. Sie sollte man besser nicht mit Informationen, Daten, potentiellen Betriebsgeheimnissen der eigenen Firma oder auch sensiblen privaten Informationen füttern. Was einmal in einem Sprachmodell drinnen ist, kriegt man dort nicht mehr heraus. Deshalb ist ihr Einsatz auch in vielen Unternehmen verboten.

Hier ein kleiner Disclaimer: Einfach Hirn einschalten, mit dem man ein öffentliches Sprachmodell füttert. ChatGPT darum zu bitten, einen Text und Social Media Posts für den nächsten öffentlichen Webcast des eigenen Unternehmens zu schreiben, sollte eigentlich unkritisch sein, denn dabei geht es nun wirklich nicht um Firmengeheimnisse.

Zum Einsatz in der Firma, besonders für sensible Informationen, gibt es unterdessen spezielle Angebote wie zum Beispiel Bing Enterprise Chat. Dabei garantiert Microsoft, dass die dort eingegebenen Daten das Unternehmen nicht verlassen werden. In diese Kategorie fällt auch derzeit der Microsoft CoPilot für Unternehmen. Zudem haben viele größere Unternehmen bereits damit begonnen, ihre eigenen Sprachmodelle aufzubauen. Dort sammeln sie Daten, Informationen, Handbücher und das Wissen ihres Unternehmens und machen es in der Firma verfügbar. BoschGPT ist ein Beispiel dafür. Auch immer mehr spezifische. GPTs zu Themen und Branchen sind im Entstehen.

Vorsicht, aber keine Verweigerung: KI-Tools ausprobieren

In der oder den nächsten Ausgaben von #9vor9 werden wir auf weitere Einsatzmöglichkeiten von KI eingehen. Beispielsweise haben wir kurz erwähnt, dass man ChatGPT fragen kann, um einen Gesprächs- oder Interviewleitfaden für ein Gespräch oder einen Podcast zu erstellen. Die Vorschläge – ich habe das ausprobiert – sind oft nicht schlecht und man kann den Output durchaus als Anregung oder Startpunkt für besagten Gesprächsleitfaden nutzen.

Und da sind wir genau beim Punkt, mit dem ich diesen Beitrag schließen möchte. Setzt die erwähnten Werkzeuge ein, probiert sie aus, lasst euch inspirieren, aber traut nie den Ergebnissen als Wahrheit. Das eigene Gehirn, kritisches Hinterfragen sind unbedingt notwendig. Doch wenn man die Tools als Helferlein nutzt und versteht, steigern sie durchaus die eigene Produktivität. Und ich wage die Aussage, dass man nicht auf sie verzichten kann und sollte, wenn man künftig „wettbewerbsfähig“ sein will.

126 – Über KI Tools, Teil 1: Text – #9vor9 – Die Digitalthemen der Woche

Ein knappes Jahr, nachdem wir hier bei 9vor9 zum ersten Mal über CHatGPT gesprochen haben, starten wir eine kleine Serie über KI Tools, die wir in diesem Jahr genutzt haben. In dieser Episode geht es vor allem um Texterstellung und dann auch ein bisschen um das Thema Suche. Und wir kommen bei Ersterem auf keinen gemeinsamen Nenner. Aber hört selbst.

Welche Themen rund um KI-Tools steht noch an? Unter anderem wollen wir über das Erzeugen und die Manipulation von Bildern sprechen. Welche Werkzeuge gibt es und welche Erfahrungen haben wir gemacht. Und wir werden sicher noch andere Einsatzgebiete ausleuchten.

Übersicht der bei #9vor9 erwähnten GenAI-Werkzeuge

Meister Yoda: Der Saft war nicht mit ChatGPT

In Vorbereitung von #9vor9 habe ich ChatGPT gebeten, ein Gedicht im Stil von Meister Yoda aus StarWars über die Fähigkeiten und Beschränkungen der GenAI-Werkzeuge zu schreiben. Das Ergebnis war diesmal nicht so überzeugend, so dass ich etwas nachgebessert habe. Und natürlich ist das Titel- und Hintergrundbild mit GenAI erstellt. Es sollte Meister Yoda zeigen, der uns allen die Nutzung von GenAI erklärt:

ChatGPT und Bard, gut schreiben, texten sie zwar können,
Doch für Suche und Recherche, ungeeignet sie sind, ohne Frage, das Du verstehen musst .

Der Kontext ihnen oft fehlt,
Missverständnisse entstehen, das ist wahr.
Ihre Antworten nicht verlässlich und klar.
Fake News die Gefahr sind,
die dunkle Seite der Macht sich zeigt
das Imperium schlägt zurück

Vor Hallunzinationen der Macht ich Dich warne,
Denn das Wissen der Quellen, der Wahrheit ihnen schwer fällt,

Doch in der Zukunft, Hoffnung besteht,
Fortschritte und Lösungen vielleicht nicht weit sind.
Für Suche und Recherche, neue tiefe Wege gefunden werden müssen,
Um die Wahrheit zu entdecken, in allen Sphären.

Möge die Wahrheit bald mit ChatGPT und Bard 
und vor allem Open Source GPTs sein,
Ihre Fähigkeiten im Texten und Schreiben sind nicht klein.
Doch nach Verbesserungen wir suchen,
ein Erwachen der Macht, der Wahrheit, des Vertrauens,
die Rückkehr der Yedi-Ritter
Um das Wissen, die Wahrheit zu ergründen, an jedem Ort.