Glaube keinen Aussagen einer KI, die Du nicht selbst überprüft hast!

Ein Update über die KI-Tools, die ich in den vergangenen Wochen und Monaten genutzt habe. Am häufigsten nutze ich die „Antwortmaschine“ perplexity.ai, die ich seit Mitte Juni als Standardsuchmaschine in meinen Browser (Firefox) konfiguriert habe. Keine Google-Suchresultate, kein Bing mit Links. Jedes mal, wenn ich etwas suche, gibt mir also Perplexity die Antwort in Form eines ausformulierten Textes unter Angabe von Quellen und Links.

Antwortmaschine statt Suchmaschine?

Ich habe mich sehr schnell an diese Art der Suchergebnisse beziehungsweise der Antworten gewöhnt. Nur selten vermisse ich die klassischen Suchergebnisse in Form von URLs, wie wir sie seit Jahren von Google und Konsorten kennen. Auch hat sich die Art, wie ich suche verändert. Klar, manchmal schaue ich nur nach einer Webseite, doch stelle ich fest, dass ich vermehrt „Wissensfragen“ stelle. Meist formuliere ich nun eine komplette Frage aus, statt wie früher nur Stichworte einzugeben und Perplexity gibt mir die Antwort.

Doch wende ich Perplexity nicht nur für die Suche an. Die KI kann beispielsweise Vorschläge für Fragen zu dem Thema unseres Podcasts machen oder gar einen ganzen Gesprächsleitfaden erstellen. Auch lasse ich mir die Transkripts unseres Podcasts #9vor9 zusammenfassen. Die Zusammenfassungen sind mir zugegebenermaßen oft etwas inhaltlich flach, wesentliche Kernaussagen fehlen mir, aber Teile kann ich weiter verwenden. Zudem frage ich Perplexity nach Vorschlägen, wie ein Titelbild zu einem Beitrag aussehen könnte und die KI formuliert mir Texte für Prompts aus, die ich dann zur Bildgenerierung nutzen kann. Perplexity hat für mich in weiten Teilen ChatGPT und TypingMind ersetzt. (Und ich habe auch noch nicht SearchGPT genutzt, mit dem Open AI angeblich Google angreifen will.)

Antwortmaschine mit krassen Fehlern

Ich bin happy, beziehungsweise ich war happy, bis mir dieser Tage ein Lapsus passiert ist, auf den mich mein Freund Jannis aufmerksam gemacht hat. Ich habe wie oben beschrieben Perplexity gebeten, das Transkript unseres Podcasts mit Dominik Bredel zum CrowdStrike-Vorfall in einem Artikel zusammenzufassen. Da mir die erste Version nicht gefallen hat, habe ich eine ausführlichere Version angefragt und bekam folgende Einleitung:

Der Crowdstrike-Vorfall vom 7. Juli 2023 wird als einer der größten IT-Ausfälle weltweit eingestuft. Ein fehlerhaftes Signatur-Update von Crowdstrike, das automatisch auf Millionen von Windows-Systemen eingespielt wurde, verursachte weitreichende Störungen …

Man finde den Fehler! Natürlich ist das Datum falsch und ich habe es überlesen. Darf mir nicht passieren und darf auch einem Tool wie Perplexity nicht passieren. Schon einmal ist mir aufgefallen, wie einfach falsche Fakten und Ergebnisse ausgespuckt wurden. Was mich besonders schockiert, ist, dass eben klar recherchierbare Fakten einfach falsch sind. Ich persönlich gelobe Besserung und versuche, noch misstrauischer zu werden. Glaube keinen Aussagen oder Fakten einer KI, die Du nicht selbst überprüft hast! Die Systeme hallunzinieren nur zu oft.

Welche Quellen nutzt perplexity.ai und gewichtet man die Quellen?

Marcus Schwarze schreibt noch in der FAZ:

Perplexity.ai, finanziert von Amazon-Gründer Jeff Bezos und Hardware-Hersteller Nvidia: Die Maschine kann auch tagesaktuelle Ereignisse verarbeiten und beruft sich dabei zumeist auf seriöse Quellen. Anders als bei Googles Versuch einer „Antwortmaschine“ werden obskure Quellen herausgefiltert.

Modelle und Akteure im Überblick: So tickt die KI-Welt

Das wird natürlich ad absurdum geführt, wenn man oben beschriebene Erfahrungen macht. Was mir zudem aufgefallen ist, dass Perplexity gefühlt selten Quellen benutzt, die ich als besonders vertrauenswürdig ansehe: heise, Zeit, Tagesschau, FAZ, Süddeutsche … Das sind einige der Publikationen, denen ich besonders vertraue. Komisch – oder auch nicht.

Perplexity hat dieser Tage diverse Partnerschaften angekündigt. An dem „Perplexity Publisher-Programm“ nehmen, so die FAZ, u.a. „Time Magazine“, „Fortune“, „Entrepreneur“,die „Texas Tribune“, „Der Spiegel“, das „Manager Magazin“, „Spiegel TV“ und das Fußball-Magazin „11 Freunde“ teil. Ziel der Vereinbarung sei es, deren Inhalte auf der Plattform von Perplexity sichtbarer zu machen. Die Publikationen sollen dafür einen Anteil an den mit seinen Inhalten erwirtschafteten Werbeeinnahmen erhalten. Es wird sicherlich wichtig bleiben, die Quellen im Auge zu behalten, die Perplexity künftig wie oft an zeigt.

„Wer mit WordPress bloggt, wird die Möglichkeit bekommen, die eigenen Inhalte für Perplexity.AI freizugeben und bei Nutzung mitzuverdienen“, schreibt Daniel Fiene in seinem Blog und macht mich darauf aufmerksam, dass für mich als WordPress.com-Nutzer Perplexity ein Partner werden könnte. Details folgen laut Automattic später. Ich bin gespannt (ohne die Bedeutung dieses kleinen, privaten Blogs überbetonen zu wollen).

Magische Bilder mit Prompts von ideogram.ai

Jetzt habe ich doch mehr über Perplexity geschrieben, als ich eigentlich wollte. Neben der leider fehlerhaften „Antwortmaschine“ ist bei mir ideogram.ai, das mir Klaus Eck empfohlen hatte, seit langem im Einsatz und Dall-E verdrängt. Mit ideogram.ai entstehen auf Basis selbst formulierter oder von Perplexity vorgeschlagener und von mir verfeinerter Prompts die meisten Titelbilder der Beiträge in diesem Blogs. ideogram baut seine Funktionalität weiter aus. So kann man Magic Prompts nutzen, die die eigenen Prompts noch weiter verfeinern. Wie auch bei Perplexity gibt es noch einige „sophisticated“ Zusatzfunktionen, für die man zahlen müsste und die ich in beiden Tools nicht abonniert habe, einfach weil sie mir als privater Nutzer zu teuer sind.

Quasi ergänzt wird ideogram.ai unterdessen ab und an durch den Videogenerator Luma Dream Machine, auf das ich über den Newsletter von Jens Polomski aufmerksam wurde. Luma füttere ich oft mir den Bildern aus ideogram und lasse die Video-KI diese Bilder animieren. Die Animationen publiziere ich dann mit Link zum Blogartikel auf Pinterest und Instagram. Ein Versuch, der Generation Video näher zu kommen?

KI-Tools greifen ineinander

Schon interessant, wie verschiedene KI-Tools ineinander greifen können. Ein Text und ein Prompt, der von Perplexity generiert und von mir verfeinert wird. Vier Vorschläge für ein Titelbild, die mir ideogram.ai unterbreitet und deren Erstellung durch einen Magic Prompt verfeinert wird. Oft noch etwas Nacharbeit am Prompt und Bild, bevor ich dann Luma Dream Machine mit dem Bild füttere und Anweisungen hinzufüge, wie und was animiert werden soll. Natürlich kann man sich vorstellen, das automatisiert und vielleicht in einem Tool zu machen.

Billig-Content automatisch produzieren und damit reich werden?

Marcus Schwarze hat gerade einen interessanten Beitrag auf FAZ.NET (leider hinter der Paywall) geschrieben, wie Billig-Content mit Hilfe von KI-Tools in Masse produziert wird, um so Geld zu verdienen. Wer aufmerksam ist, nimmt wahr, wie ChatBots Tausende von Texten und Social Media Posts erstellen und mit KI manipulierte Videos die Kanäle überfluten. Das von Elon Musk verbreitete Kamala-Video ist nur ein krasses Beispiel. Dies zeigt die Schattenseiten, wie KI dabei hilft uns zu manipulieren und voll zu „spammen“. Und auch hier gilt: Versuche diese Texte und Videos zu erkennen, glaube erst einmal nicht den Fakten einer KI, überprüfe die Fakten selbst!

Tools, die KI-generierte Texte, Bilder, Stimmen, Videos erkennen

Oder nutze eines der Tools, die es unterdessen auf dem Markt sind? Ich habe sie noch nicht getestet. Ihr?

Ich habe das Titelbild nachträglich nochmals geändert und ideogram.ai folgende Anweisung gegeben. Oben sehr Ihr was dabei herausgekommen ist: „Trust vs. mistrust“ – A scale with a book with „facts“ on one side and a computer with an AI on the other. The side with the AI is heavier and tips the scales, while distorted and false information flows out of the computer screen.

Hier der Prompt, mit dem idoegram.ai das ursprüngliche Titelbild erstellt hat: A thought-provoking, futuristic image of an eye, where the iris is replaced by an intricate, swirling pattern of AI-generated text and images. The eye reflects miniature search results, prompts, and visuals, representing the seamless fusion of human intelligence and AI-assisted content creation. The transition from human skin to digital pixels in the surrounding area emphatically conveys this merging of two worlds, creating a fascinating and captivating visual experience.