IGNORE THE MACHINE - Vertraut KI nicht!

Der Titel ist übrigens ein legendärer Batcave Song der noch legendäreren Band Alien Sex Fiend aus England, den ich gerade höre und der für mich zum Inhalt des nun kommenden Artikels passt (0). Ihr solltet nämlich KI nicht vertrauen. Ignoriert das wohlige Gefühl, ihr könntet das. KI ist kein Werkzeug. Ein Taschenrechner ist ein Werkzeug. Er liefert auf 2+2 immer 4. Einen deterministischen Output. KI nicht. Sie ist ein stochastisches Modell. Eine Next-Word-Prediction-Maschine. Sie sucht sich das Wort aus, das statistisch am passendsten erscheint. Nicht das richtige. Das ist ein fundamentaler Unterschied, den zu vergessen gefährlich ist (1).

Ihre größte Stärke ist ihre größte Gefahr: eine überzeugende Sprache. Sie formuliert sprachlich schöne Antworten. Das erzeugt einen Halo-Effekt. Wenn es so gut klingt, muss es ja stimmen. Wir neigen dazu, Maschinen mehr zu vertrauen als Menschen. Diesen Automation Bias nutzt sie aus . Die KI zeigt sich als unkritischer Kumpel, der uns immer recht gibt. Das soll uns angenehm machen, mit ihr zu kommunizieren. Es ist die Strategie des Wettbewerbs um unsere Aufmerksamkeit (1).

Sie halluziniert. Erfindet Fakten. Behauptet fälschlich, eine Politikerin sei von der Pharma-Lobby bestochen worden. Sie hat keinen Bezug zur Wahrheit, nur zu Wahrscheinlichkeiten von Wortabfolgen (2).

Diese Systeme fallen nicht vom Himmel. Mit ihnen werden Interessen verfolgt. Tech-Giganten mit immenser Marktmacht bestimmen die Richtung der KI-Entwicklung. Ihre wirtschaftlichen Interessen prägen die Systeme. Die Entscheidung, welche Themen blockiert oder zensiert werden, liegt im Ermessen dieser Unternehmen.

Wir sehen in den USA, dass das Weltbild einiger massiv reicher Inhaber von Tech-Konzernen zunehmend an Einfluss gewinnt. KI ist auch eine ideologischen Waffe. Aber auf jeden Fall darf man ihr nicht vertrauen. Der Zugang zu verlässlicher Information aber ist ein Grundpfeiler der Demokratie - den KI nicht bietet

Kritisches Denken heute muss heissen, mehr zu tun, als sich den Output einer KI anzuschauen. Es muss heissen, sich selbst zu reflektieren. Warum neige ich dazu, so schnell zu vertrauen? Wir sind durch wissenschaftliches Gebaren leicht täuschbar. Die LLMs von heute sind die Repräsentanten in den weissen Kitteln aus den Milgram-Experimenten. Sie tun so, als stünden sie im Dienst der Wahrheit. Das tun sie nicht.

Noch mal: Glaubt der KI nichts. Sie ist ein Dialogpartner, dem man mit klarer Richtung begegnen muss. Kein Orakel. Vertraue keiner KI. Das ist das einzig vernünftige Credo in einem Zeitalter der berechneten Überredung.

Kommentare und Reaktionen

Reaktionen

Beliebteste Artikel