Niki

KI-Chatbots heute: Vorsicht statt blindem Vertrauen

In den vergangenen Tagen gab es gefühlt rund um Informationstechnologie nur ein Thema: Künstliche Intelligenz. Chatbots, Microsoft und ChatGPT sowie Google und BARD. Die beiden Konzerne haben sich eine Schlacht um die Schlagzeilen in Presse und sozialen Medien geliefert. And the winner (at least) for this week is: Microsoft. Bevor Lars und ich uns am kommenden Dienstag (live am 4. Februar 2023, 8:51 Uhr auf LinkedIn oder später zum Anhören und Schauen aus der Konserve) nochmals über das Thema unterhalten, hier eine Sammlung von Artikeln und aus meiner Sicht bemerkenswerten Zitaten.

ChatGPT: Werkzeug für alle oder Tool für Prompt Engineers?

Die neuen Chatbots wie ChatGPT oder auch YouChat werden doch mit natürlich formulierten Sätzen befragt, dachte ich eigentlich. Doch ein Stück weit gefehlt. Wer wirklich das beste Ergebnis herausholen will, muss künftig „Prompts“ beherrschen. Manche vergleichen die Fähigkeit des Prompt Engineerings*, der Kunst mit dem KI-Tool „sprechen“ zu können, mit der Expertise, Suchmaschinenoptimierung zu betreiben. „Eine kleine Industrie mit Tools und Beratern wird entstehen, die das Knowhow darüber entwickeln und nutzen, welche Schlüsselwörter zum gewünschten Ergebnis führen“, schreibt Mike Elgan. Schauen also mal, ob und wie das Versprechen der Chatbots für die normalen Anwenderinnen und Anwender Wirklichkeit wird.

Zurück zu den Ereignissen der vergangenen Woche. Google und Microsoft haben sich ein Rennen um Aufmerksamkeit und Reichweite geleistet. Erst terminiert Google eine Ankündigung, daraufhin reagiert Microsoft. Und um Microsoft doch voraus zu sein, veröffentlicht Google dann am Abend vorher einen Blogbeitrag. Gerade bei Google geht manches schief bei diesem Elefantenrennen. Die Aufregung ist groß.

Die Katzen sind auf jeden Fall aus dem Sack: Google stellt ChatGPT-Rivalen Bard vor, bei dem das KI-gesteuerte Sprachmodell Lamda (Language Model for Dialogue Applications) eine wichtige Rolle spielt. Bard soll, so beispielsweise das Handelsblatt, sofort „vertrauenswürdige Testern“, dann in den kommenden Wochen für die Öffentlichkeit zugänglich gemacht werden. Microsoft kündigt die Integration einer „upgraded version“ von ChatGPT in seinen Browser Edge und der Suchmaschine Bing an. Im Gegensatz zum „klassischen“ ChatGPT soll die integrierte Version nun auf aktuelle Informationen und Quellen zugreifen können, also mit dem Netz online verbunden sein.

„It should get better. Just give us some time.“

Doch noch sind die Antworten von ChatGPT und Konsorten nicht zuverlässig. „Manchmal halluziniert das System.“ Informationen würden falsch interpretiert, so ein Microsoft-Mitarbeiter: „Aber ganz genau wissen wir auch nicht, woher die Fehler kommen.“ so zitiert Stephan Scheuer im Handelsblatt den Microsoft-Mitarbeier. Der Beginn der neuen Ära der Internetsuche ist noch etwas holprig. Schauen wir mal, wann Google – dort gab es bei der Präsentation von Bard ebenfalls Pannen – und Microsoft (aber auch You.com**) zuverlässige Resultate liefern, denn das ist die Grundvoraussetzung, um den neuen Werkzeugen vertrauen zu können.

So gut ist das neue Microsoft Bing mit KI laut Michael Spehr auf FAZ.NET: „Die Frage, wer der gehässigste Politiker in Deutschland ist, wird von der KI zunächst umformuliert in die Frage, wer der unbeliebteste Politiker sei. Bing relativiert und schränkt ein und liefert dann aber Alice Weidel, Boris Pistorius und Robert Habeck. Sehr erstaunlich.“ In der Tat.

„Momentan kann ich nur abraten, ChatGPT als Suchmaschine zu nutzen“, meint Rolf Herbrich, Geschäftsführer und Leiter des Fachbereichs KI und Nachhaltigkeit am Hasso-Plattner-Institut (HPI) auf Zeit Online. „Wenn ChatGPT nur Textbausteine aus einer Datenbank abrufen würde, wäre es ein Papagei. Aber so ist es nicht. Man kann die Funktionsweise von ChatGPT eher mit der Autocomplete-Funktion des Smartphones vergleichen, die einem beim Tippen einer Nachricht Vorschläge macht, wie der Satz weitergeht.“

Jenseits des Hypes: Vorsicht statt blindem Vertrauen geboten

Noch ist also Vorsicht statt blindem Vertrauen geboten, meint auch Robert Lindner in der FAZ: „Es weckt auch berechtigte Sorgen, wenn KI-Systeme nun auf die breite Masse losgelassen werden. Nicht nur, weil sie noch sehr anfällig für Fehler sind, sondern auch, weil die Diskussion über ihre möglichen Kehrseiten noch am Anfang steht, also zum Beispiel inwiefern sie Urheberrechte aushebeln oder zur Verbreitung von Falschinformationen beitragen können. Auf die anfängliche Begeisterung wird womöglich manche böse Überraschung folgen.“

Google und Microsoft werden die Tools verbessern. Keine Frage. Doch sollten wir den neuen Werkzeugen nicht nur in der Suche, sondern auch beim Erstellen von Artikeln. Texten, Aufsätzen Hausaufgaben oder Hausarbeiten noch mit großem Misstrauen begegnen. Hier gilt bis auf weiteres immer die Fakten sorgfältig zu prüfen, Quellen oder Links erst einmal nicht zu trauen. Solange diese Fehler nicht behoben sind, ist es kein epochales Ereignis und kein iPhone-Moment. Doch muss man kein Prophet sein, um zu ahnen, dass sich die Mehrheit der Anwenderinnen und Anwender wohl sehr schnell auf die neue Art der Suche einlassen werden, sobald diese allgemein verfügbar sein wird.

am 14.2: Fokus auf Internetsuche und Suchmaschine

Ich möchte kommenden Dienstag bei den Fokus auf das Thema Internetsuche und Suchmaschine legen. Was kann die Entwicklung für Google bedeuten. Auch werden wir darüber sprechen, was die Entwicklung für Verlage bedeuten könnte. Werden Leserinnen und Leser überhaupt noch auf deren Seite gehen, wenn ihnen die Chatbots doch schon fertige Antworten liefern? Und wie reagieren Apple und Amazon mit Siri und Alexa? Insbesondere Amazon ist ja neben Google zu einer bedeutenden Suchmaschine geworden. Neben der Suche gibt es noch andere Gebiete – zum Beispiel eben das Erstellen von Texten, das automatisierte Beantworten von E-Mails oder der Einsatz im Kundendienst -, die beleuchtet gehören. Aber vielleicht vertagen wir das auf kommende Sendungen, denn eigentlich wollen wir ja gegen 9 Uhr mit unserer Sendung fertig sein.


* Prompt Engineering laut ChatGPT

Frage an ChatGPT: Bitte erkläre mit, was Prompt Engineering in Zusammenhang mit Chatbots ist, und warum es so wichtig wird

Prompt Engineering bezieht sich auf die Gestaltung und Überarbeitung der Schritte, die ein Chatbot durchläuft, um eine möglichst natürliche und nützliche Konversation mit Benutzern zu führen. Es ist ein wichtiger Teil des Chatbot-Designs, da es dazu beiträgt, die Effektivität und Nutzerfreundlichkeit des Chatbots zu verbessern.
Das Ziel des Prompt Engineering ist es, eine sinnvolle Abfolge von Fragen und Antworten zu erstellen, die den Benutzern dabei helfen, die gewünschten Informationen oder Dienstleistungen zu erhalten. Dies kann beinhalten, dass der Chatbot Fragen stellt, um mehr Informationen über den Benutzer und seine Bedürfnisse zu erfahren, und ihm dann relevante Antworten bereitstellt.
Prompt Engineering ist besonders wichtig, weil es dazu beiträgt, dass Chatbots wie menschliche Gesprächspartner wirken und eine positive Benutzererfahrung bieten. Durch die Überarbeitung der Schritte, die der Chatbot durchläuft, kann sichergestellt werden, dass er auf die Bedürfnisse der Benutzer eingeht und sie effektiv unterstützt.
Aufgrund der wachsenden Popularität von Chatbots und dem wachsenden Bedarf an digitaler Unterstützung wird Prompt Engineering immer wichtiger. Es hilft Unternehmen, ihre Chatbots zu optimieren und ihren Kunden eine bessere Benutzererfahrung zu bieten, was zu höherer Kundenzufriedenheit und mehr Umsatz führen kann.


** Richard Socher versucht mit You.com und KI-Funktionen, die ChatGPT beim Suchen, Chatten, Text erstellen oder Programmieren Paroli zu bieten. Doch auch die Version 2.0 liefert Fehler. Beispielsweise habe ich nach deutschen Hilfsorganisationen gefragt, die Spendenkonten für die Erdbebenopfer in der Türkei und Syrien eingerichtet haben. Alle angezeigten URLs waren falsch. Die Antwort des Supports via Slack: „I’m very sorry to hear that. We do have some issues with the URL relevancy. Our eng team is working on it.“ „It should get better. Just give us some time.“

*** Titelbild mit Dall E-2 generiert: Erstelle mir im Stil von Niki de Saint Phalle eine Zeichnung von Nutzerinnen und Nutzern, die auf dem Computer oder SmartPhone im Internet suchen, und dabei Künstliche Intelligenz und Chatbots nutzen.

Comments

2 Antworten zu „KI-Chatbots heute: Vorsicht statt blindem Vertrauen”.

  1. […] vorgenommen. Momentan sind die Tools einfach noch nicht vertrauenswürdig, wie ich ja auch schon an anderer Stelle ausgeführt […]

    Like

Kommentar verfassen

Diese Seite verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden..

Regelmäßig informiert bleiben?
StefanPfeiffer.Blog

Jetzt abonnieren, um informiert zu bleiben und alle Beiträge im Zugriff zu haben.

Fortfahren