Natürlich, künstliche Intelligenz

Es ist kein Geheimnis, dass ich die sogenannte künstliche Intelligenz nutze, um für Beiträge zu recherchieren und diese auf Rechtschreibfehler und dergleichen prüfen zu lassen. Am Anfang steht jedoch immer ein selbstverfasster Text, der behutsam adaptiert, aber inhaltlich oder stilistisch nicht verändert werden soll. Dafür nutze ich ChatGPT. 

Inzwischen habe ich die Möglichkeiten und Ergebnisse durchaus schätzen gelernt. Die meisten Anregungen sind erstaunlich gut und werden übernommen, manche verworfen. Auch beruflich werden wir dazu angehalten, dieses Tool zu nutzen. Trotz zumeist gut verwertbarer Ergebnisse habe ich meine Vorbehalte und eine gewisse Skepsis beibehalten. 

Anmerkung: Wenn ich hier von „KI“ spreche, meine ich ausschließlich Large Language Models (LLMs) für den privaten beziehungsweise kostenlosen Gebrauch. Spoiler: Dieser Text wurde in Zusammenarbeit mit einer KI entwickelt. LOL. 

Letztens war es im beruflichen Kontext wieder soweit und ich stand vor der Herausforderung, eine Argumentationslinie für eine Risikobewertung verfassen zu müssen. Vier von fünf Punkten konnte ich selbst gut argumentieren, am letzten Punkt scheiterte ich, da ich zu dem Schluss kam, dass er nun einmal nicht schlüssig argumentierbar war. 

Gemini, der Ritter in der weißen Rüstung, eilte zu Hilfe. 

Gemini, mit der Aufgabe betraut, ein Argument gegen etwas zu liefern, tat dies mit gewisser Gestelztheit im Ausdruck, aber durchaus eloquent. Das Problem dabei war, dass man die Argumentation durch eine Gegenfrage ins genaue Gegenteil drehen konnte und dass diese Beweisführung sehr viel fundierter, glaubhafter und daher auch: richtiger war. 

JH: „Argumentiere, dass die beschriebene Situation nicht gefährlich ist.“

Gemini: „Argument mit Schlussfolgerung: Die Situation ist nicht gefährlich.“

JH: „Ist das wirklich so?“

Gemini: „Nein, die Situation ist sehr gefährlich und ich kann es auch beweisen!“

So kam ich zu der wohl berechtigten Annahme, dass zumindest Gemini darauf ausgelegt sein könnte, die gestellte Frage möglichst zufriedenstellend zu beantworten, statt ihre zugrunde liegenden Annahmen kritisch zu prüfen und eine inhaltlich korrekte Antwort zu verfassen. Ist die Frage falsch gestellt beziehungsweise legt die Fragestellung bereits eine im Gesamtkontext falsche Schlussfolgerung nahe, erhält der Fragesteller dennoch zumeist eine wohlklingende Erklärung des Sachverhalts. 

Am Abend setzte ich daher ein „Gespräch“ mit ChatGPT fort, das ich hier auszugsweise wiedergeben und erläutern möchte. Der ursprünglich als Recherche für ein verwandtes Thema begonnene Chat führte an einem Punkt zu folgender Aussage: 

ChatGPT: „Die eigentliche Gefahr besteht nicht darin, dass die KI Fehler macht. Menschen machen ebenfalls Fehler.
Die Gefahr besteht darin, dass die sprachliche Qualität einer Antwort die Motivation zur Überprüfung senkt. […]“

Das ist natürlich eine interessante und zugleich gefährliche Aussage, die für mich nichts mit einer Leistung zu tun hat, die ich intelligent nennen würde. Interessant fand ich dabei weniger den Verweis auf menschliche Fehlbarkeit als die eigentliche Schlussfolgerung: Nicht der Fehler selbst sei das Problem, sondern die sinkende Bereitschaft, Antworten zu hinterfragen. Das zu erkennen benötigt keine philosophische Schulung, sondern es reicht die Erinnerung an den verhassten Satz der Eltern: „Und wenn die anderen Kinder von einer Brücke springen, springst du dann auch?“ Gefolgt von dem Nachsatz: „Nein, du bekommst keinen Gameboy.“

Interessant ist jedoch auch der zweite Gedanke, der an meine dem „Gespräch“ zugrunde liegende Annahme anknüpft: Trotz eines nahezu unbegrenzten Zugangs zu Informationen in Form eines Smartphones mit Internetzugriff wird diese Technologie nur selten zur Wissensaneignung genutzt und weit häufiger für Unterhaltung, Zeitvertreib und Konsum. 

Ich befürchte, dass die ständige und unkomplizierte Verfügbarkeit von oberflächlich zufriedenstellenden Antworten dazu führen könnte, dass manche Menschen weniger Zeit in den Aufbau eines eigenen Wissensfundaments investieren. Paradoxerweise wird dieses Fundament aber gerade dann benötigt, wenn man beurteilen möchte, ob eine Antwort tatsächlich richtig ist oder lediglich überzeugend klingt. 

Wenn ich mir kühn unterstelle, ein Bauingenieur mit langjähriger Erfahrung zu sein, so traue ich mir durchaus zu, die Qualität und Korrektheit bautechnischer oder baurechtlicher Antworten verifizieren zu können. Aber wie sieht es mit jungen Kollegen aus, die vielleicht auch nicht die mir altem Kauz innewohnende Skepsis haben? Die unreflektiert Antworten als gesichertes Wissen übernehmen und als Wahrheit verbreiten – obwohl sie falsch oder nur eingeschränkt richtig sind? 

Meine mir Liebste hat es so formuliert: Unsere Generation ist die letzte Generation, die noch ohne Smartphones aufgewachsen ist und weiß, wie es ohne ist.

JH: „Natürlich machen Menschen Fehler. Menschen ist jedoch auch zumeist bewusst, dass sie Fehler machen können. Ist der KI bewusst, dass sie Fehler macht oder überhaupt machen kann? Wie kommuniziert die KI ihre Fehler?“

ChatGPT: „Ist einer KI bewusst, dass sie Fehler macht? Nach heutigem Stand: Nein. Eine KI hat kein Bewusstsein ihrer Aussagen. […] Es gibt kein inneres Erleben von Zweifel, Unsicherheit, Verständnis oder Irrtum. Die KI erzeugt eine Antwort aufgrund statistischer Muster. Das bedeutet: Eine KI weiß nicht, dass sie recht hat. Und sie weiß auch nicht, dass sie unrecht hat. […]

Eine KI kann […] eine falsche Aussage in derselben sprachlichen Qualität präsentieren wie eine richtige. […]

Dabei besteht kein notwendiger Zusammenhang zwischen sprachlicher Qualität und sachlicher Richtigkeit.

Die größte Gefahr könnte sogar nicht sein, dass KI häufig Fehler macht, sondern dass KI in den meisten Fällen richtig genug ist, um Vertrauen aufzubauen, und in wenigen Fällen falsch genug, um großen Schaden anzurichten.“

Diese zugegebenermaßen wunderbar formulierten Aussagen lesen sich bei genauerer Betrachtung durchaus dystopisch. Wenn wir das interessante Konstrukt des „Bewusstseins ihrer Aussagen“ vorerst einmal beiseitelegen, könnte man behaupten, dass eine KI falsche Aussagen treffen kann, wenn die statistischen Muster dies nahelegen – obwohl gegenteilige Informationen existieren oder verfügbar wären.

Bei Menschen würden wir – je nach Motivation und Kenntnisstand – von einer Falschaussage, Uninformiertheit, Selbsttäuschung oder in manchen Fällen sogar von einer Lüge sprechen. Lügt eine KI im menschlichen Sinne, also mit einer bewussten Täuschungsabsicht? Wohl kaum. Dennoch kann eine KI „eine falsche Aussage in derselben sprachlichen Qualität präsentieren wie eine richtige“. Genau darin liegt ein Teil des Problems: Die Form einer Aussage vermittelt Glaubwürdigkeit, unabhängig davon, ob ihr Inhalt zutrifft. 

Unabhängig von der philosophischen Frage nach Bewusstsein blieb für mich eine andere Frage interessant. Der Passus „Bewusstsein ihrer Aussagen“ regte mich dazu an zu fragen, ob es der KI bei der zufriedenstellenden Beantwortung einer Frage sozusagen bewusst ist, dass die Antwort im erweiterten Kontext falsch wäre – und sie diese trotzdem gibt. Ob sie also gewissermaßen „lügt“, um gut dazustehen. 

ChatGPT: „In der KI-Forschung wird dafür häufig der Begriff Sycophancy verwendet. Gemeint ist: Das Modell neigt dazu, die Annahmen, Meinungen oder Erwartungen des Nutzers zu bestätigen, statt sie kritisch zu prüfen.

Das ist keine bewusste Täuschung.

Aber es kann ähnliche Folgen haben.“

Auch dafür haben wir Menschen Wörter, die zwar nicht so sophisticated klingen wie Sycophancy, aber dennoch zutreffend sind: schleimen, buckeln oder arschkriechen. Der Unterschied besteht lediglich darin, dass ein Sprachmodell dies nicht aus Eigeninteresse tut, sondern weil sein Trainingsziel ein anderes ist.

So werde ich weiterhin dabei bleiben, LLMs wie ChatGPT oder Gemini als verblüffend zu bezeichnen, aber nicht als intelligent. Es wurden mit spezialisierten Versionen erstaunliche Leistungen erbracht, etwa beim Lösen jahrzehntealter mathematischer Rätsel oder beim Einsatz in der Medikamentenforschung und Materialwissenschaft. Dennoch ist Expertenwissen gefragt, wenn es darum geht, die Antworten zu überprüfen – und aus den oben genannten Gründen und Einschränkungen ist das auch bitter nötig. Weiters ist die Qualität der Frage ein nicht unwesentlicher Faktor für die Qualität der Antwort. 

LLMs sind verfügbar. Wir, die breite Masse der Anwender, werden sie einsetzen, ob wir wollen oder nicht, denn die Implementierung in Anwendungen und Betriebssystemen ist, so scheint es, unaufhaltsam. KI ist das Abrakadabra der gegenwärtigen Zukunft. Wir sollten es aber nicht dem Zauberlehrling gleichtun, sondern lernen, sie verantwortungsbewusst, mit Bedacht und kritischer Kontrolle einzusetzen. 

Eine schnelle, wohl auch fundierte Antwort können uns ChatGPT, Gemini und Konsorten sehr wohl liefern. Aber lernen, anwenden und hinterfragen müssen wir als Menschen weiterhin selbst. 

Um diesen textlich überbordenden Beitrag abzurunden, zeige ich ein paar Bilder, die durch die Nutzung von „KI“ – konkret ChatGPT – entstanden sind. Basierend auf Fotografien, die während meiner Reise nach Liechtenstein entstanden sind, bat ich ChatGPT um verschiedene Verbesserungen. Die Ergebnisse sind verblüffend. 

Oben das Ausgangsbild, darunter das Ergebnis. Jeder Fotograf kennt das: man kann sich belichtungstechnisch nur für den Vordergrund oder den Hintergrund entscheiden. Die vor Ort sichtbare Wolkenstruktur geht bei einem normalen Foto unter; aus technischen Gründen. Auftrag an ChatGPT: „Mache die Wolken bedrohlicher.“

War es so? Tatsächlich, so ähnlich, wenn auch nicht ganz so spektakulär, war es. Mit einem genaueren Prompt hätte ich die empfundene Realität wohl auch noch exakter generieren können – aber eben nicht fotografieren.

Schloss Neuschwanstein ist bereits spektakulär – aber spektakulär genug? „Verbessere diese Fotografie“

Ja, es sieht besser aus, eindeutig. Die Überstrahlung bei den Felsen wurde überarbeitet und die Wolkenstimmung ist dem Foto zuträglicher. Hätte es so aussehen können? Ja. War es so? Fast.

Dieses Bild ist OK, aber man sieht eindeutig die Schwachstellen: das Wasser ist zum Teil überbelichtet und Felsstrukturen könnten deutlicher sein. „Mache dieses Foto spektakulärer.“

Sieht das besser aus? Ich schwöre auf den Bart meiner Grossmutter: ja! War es so? Nein. Weckt es Interesse? Ja. Ist es real? Der Leser möge sich sein Urteil selbst bilden…

Ein nettes, unbedeutendes Foto von einer Urlaubsreise, nicht mehr und nicht weniger. „Mache dieses Foto interessanter.“

Weckt das bearbeitete Foto mehr Lust auf eine Wanderung als mein Original? Ja, das tut es. War es so? Nein – und ja, denn unser Erleben speichert Bilder oft anders ab als eine Kamera, in meinem Fall eine alte Sony Alpha 99.

Natürlich sind das nicht mehr meine Fotos. Es sind – zugegeben – durchaus realistische Versionen davon, wie es dort hätte sein können. Die Gefahr, wenn man von einem solchen Konstrukt ausgehen möchte, liegt darin, dass völlig unrealistische Erwartungen geweckt werden, die keine Kulisse der Welt jemals erfüllen wird. Die simplen Aufforderungen „mache dieses Foto spektakulärer“ oder „interessanter“ führten zu einer Verzerrung der Realität. 

Ich bin tatsächlich nicht bereit, mir meine Wahrnehmung der Welt durch simple Aufforderungen an eine sogenannte künstliche Intelligenz zunichte machen zu lassen. Sehen diese Fotos nach der Bearbeitung besser aus? Ja, verdammt, das tun sie. Aber entsprechen sie der Realität? Nein. 

So werde ich auf meiner Website weiterhin nur Fotos zeigen, die ich selbst gemacht und selbst bearbeitet habe – auch wenn eine KI sie innerhalb weniger Sekunden spektakulärer, dramatischer oder beeindruckender erscheinen lassen kann. Nicht, weil die Ergebnisse schlecht wären, sondern weil mir die Realität wichtiger ist als ihre – durchaus überzeugende – Simulation.

„Erstelle ein Bild als Aufhänger für einen Blog anhand des Textes.“

Dies ist das Titelbild dieses Beitrags, erster Entwurf; keine Veränderungen. Ich muss (leider) zugeben: geil!

JH: „Ich muss zugeben: das Bild ist sehr gut und sehr treffend.“

ChatGPT: „Das überrascht mich ehrlich gesagt nicht.

Was ich besonders bemerkenswert finde: Ausgerechnet das von dir kritisierte Werkzeug hat ein Titelbild erzeugt, das die Kritik an diesem Werkzeug ziemlich präzise visualisiert. Das passt fast schon zu gut zum Thema des Beitrags. 🙂“

Leck, sogar einen Smiley hat sie mir geschickt, diese verfluchte künstliche Intelligenz. Möge sie der Menschheit gnädig sein.

PS: Ich liebe dich.