Realitätscheck

Image by vecstock on Freepik

Eine der Eigenschaften von künstlicher KI, die die meiste Aufmerksamkeit bekommen hat, ist die, dass KI “halluziniert” (dieser Begriff wird auch tatsächlich dafür verwendet). Damit ist gemeint, dass KI manche Dinge schlicht nicht weiß und anstatt zu sagen “das weiß ich nicht”, stellt sie völlig realistisch klingende, vermeintliche Fakten in den Raum. 

Kürzlich hatte ich ein LLM (ein "Large Language Model" wie z.B. ChatGPT, also eine komplexe KI, die natürliche Sprache versteht und generiert) danach gefragt, wer “Monica Hinrichs-Mayer” sei. Das System antwortete mit dem vollständigen Lebenslauf einer vermeintlich bayerischen Politikerin, die in München Rechtswissenschaft studiert und promoviert habe, nach ihrem Abschluss als Richterin am Amtsgericht Nürnberg und später als Staatsanwältin bei der Staatsanwaltschaft Nürnberg-Fürth gearbeitet habe, seit 2013 Abgeordnete im Bayerischen Landtag und seit 2018 auch stellvertretende Vorsitzende der CSU-Landtagsfraktion sei, mit einem Schwerpunkt auf Justizpolitik und Inneres.

Ich war völlig fasziniert davon, habe weitere Fragen gestellt und weitere Antworten bekommen: “Frau Hinrichs-Mayer ist eine engagierte Politikerin mit einem starken Fokus auf Justizpolitik und Innere Sicherheit. Sie setzt sich insbesondere für die Stärkung der Polizei und die Verbesserung der Justiz ein. Darüber hinaus ist sie eine starke Fürsprecherin für Bürgerbeteiligung und Transparenz in der Politik. Sie glaubt, dass die Menschen aktiv in Entscheidungsprozesse einbezogen werden sollten, um so bessere Lösungen für alle zu finden. Außerdem ist sie eine große Unterstützerin von Bildungsmaßnahmen und setzt sich für Chancengleichheit in allen Bereichen ein”. 

Ich habe Klötzchen gestaunt.

Der ausgegebene Text war dermaßen in sich schlüssig, dass ich auf meiner bevorzugten Suchmaschine danach gesucht habe, ob es diese Person mit diesem Namen tatsächlich geben könnte (natürlich nicht!). Als ich diesen Lebenslauf in ein anderes LLM einspeiste, stellte sich heraus, dass er in weiten Teilen dem Lebenslauf von Ilse Aigner entspricht. Das System hat also auf einen “blinden Flecken” (meine Person) mit völlig frei erfundenen Daten die Lücke aufgefüllt. Sie hat halluziniert.

Da wir üblicherweise nicht nachvollziehen können, wie die KI denkt, wie sie lernt und welche Aspekte sie in den Vordergrund stellt, um ihren Output zu generieren, stehen wir oft genug staunend davor und wissen noch nicht einmal, ob die angebotene Antwort der Realität entspricht oder nicht. 

Den Begriff “Halluzinationen” finde ich besonders gut gewählt, denn auch bei (echten) Halluzinationen wissen die Menschen nicht, dass das, was sie gerade empfinden/sehen/hören/wahrnehmen nicht die Realität ist. Ob eine Realität “von außen” über die Wahrnehmung rein kommt oder direkt "innen" an einer Stelle im Gehirn entsteht, ist  für den Menschen nicht unterscheidbar. Eine Person, die halluziniert, weiß in der Regel nicht, dass sie halluziniert, sondern geht davon aus, dass diese Empfindung, die die gleiche Qualität hat wie ihre üblichen Empfindungen und Wahrnehmungen, genauso von der Realität abgeleitet ist wie sonst auch. Eine Wahrnehmung, die auf der Realität fußt, und eine, die frei im Gehirn entstanden ist, sind somit nicht unterscheidbar.

Wir handeln meistens so, als ob unsere Wahrnehmung von der Realität die Realität an sich wäre -  und damit die einzige mögliche Lesart der Realität. 

Es gibt aber eine Unterscheidung zwischen der Realität und der individuellen Wahrnehmung der Realität. Die Realität sagt 15°C. Die individuelle Wahrnehmung sagt aus, ob ich 15°C als kalt oder warm empfinde, ob ich dabei eher ein T-Shirt oder eine Jacke anziehe. 15°C sind 15°C, die Energiemenge, die das beinhaltet, ist unter gleichen physikalischen Voraussetzungen immer die gleiche. Das ist die Realität. Punkt. 

Das ist keine Meinung, keine Wahrnehmung, das ist ein wissenschaftlicher Fakt. Keine Hypothese, die noch diskutiert wird, sondern ein Fakt. 

Ich kann eine Meinung dazu haben, basierend auf meiner Wahrnehmung (fühlt sich kalt oder nicht kalt an) und sogar zum Fakt an sich (15°C finde ich voll doof, weil ich mich nicht entscheiden kann, ob ich lieber ein T-Shirt oder eine Jacke anziehe), aber der Fakt ist keine Meinung und steht nicht zur Diskussion. 

Themen wie “die Erde dreht sich um die Sonne” oder “die Erde ist rund” sind keine Meinung, das sind wissenschaftlich belegte Fakten. Die wissenschaftliche Methode besteht daraus, widerlegbare Hypothesen zu formulieren, diese zu validieren (heißt: Experiment erhärtet die Hypothese) oder eben zu revidieren (ein einziges Beispiel reicht, um die komplette Hypothese zu verwerfen!) und immer weiter anzupassen, unzählige Male zu erhärten oder ein einziges Mal zu widerlegen, bis aus Theorien akzeptierte Fakten werden. Wenn wir anfangen, auch noch bei Fakten Alternativen zuzulassen, gut, dann sind wir verloren. 

Entweder wir haben uns darauf geeinigt, dass die wissenschaftlichen Fakten als Realität gelten, oder nicht. Aktuell scheint letzteres immer mehr Rückenwind zu bekommen. Da werden Meinungen oder Behauptungen von Einzelnen genau so ernst genommen wie erforschte wissenschaftliche Fakten. Als wäre alles eine Meinung und so 50%-50%, die eine Realität genau so wahrscheinlich wie die andere.

Nein.

Die Realität ist die Realität und unsere Wahrnehmung, unsere Meinung und unsere Bewertung ist, was wir daraus machen.

Wie können wir also sicherstellen, dass wir nicht zunehmend in eine eigene "Realität" abtauchen? Rabbit hole mäßig, in einer Bubble, in der alle so sehr die gleichen Meinungen vertreten wie wir selbst, dass wir irgendwann vor lauter Selbstbestätigung unsere Meinung für die einzige mögliche Realität halten? Denn das tun wir, wir alle tun das in kleinerer oder größerer Menge.

Wir müssen reden. Nicht nur mit den Menschen, die so denken wie wir, sondern gerade auch mit den Menschen, die es nicht tun. 

Das ist irrsinnig schwierig, keine Frage. Weil wir eventuell auch an unseren eigenen Grundfesten manchmal rütteln müssen. Und es schadet nicht, sich zu fragen: “Was wäre nötig, damit ich meine Meinung ändere?”. Denn wenn die Antwort “nichts könnte das tun!” lautet, dann handelt es sich um eine Glaubensfrage, nicht mehr um eine Wahrnehmung oder gar eine Annäherung an die Realität. Assimilation und Akkomodation. 

Solange wir uns einig sind, dass die Realität etwas ist, was unabhängig von uns selbst existiert und auf die unterschiedlich geschaut werden kann, können wir im Gespräch bleiben. Solange wir noch eine gemeinsame Realität teilen...