Weiß die KI, dass sie nichts weiß?

geschrieben am 11. November 2026, gelesen November 2026

Ich finde, es gibt einen gesellschaftlichen Bias: Wir schätzen Menschen besonders hoch, die etwas erschaffen, erfinden, gründen, entwickeln. Und das ist bis zu einem gewissen Grad auch richtig. Diese Menschen bringen Fortschritt. Sie bringen die Menschheit als Ganzes voran, oft in vielen kleinen Schritten, manchmal auch in einem großen Sprung.

Eine andere Gruppe von Menschen halte ich allerdings für genauso wichtig: die Erklärer.¹ Die Fähigkeit, etwas zu erschaffen, geht leider nicht immer mit der Fähigkeit einher, es anderen auch erklären zu können. Ich habe im Laufe der Jahre so einige großartige Leute kennengelernt, die niemandem erklären könnten, was sie tun – selbst wenn ihr Leben davon abhinge. Die Erklärer sind es, die die einzelnen Menschen mitnehmen, aus denen „die Menschheit“ besteht. Damit diese verstehen, was passiert, und die Folgen einschätzen und den Fortschritt für sich nutzen können.

Wir brauchen diese Erklärer, um in einer immer komplizierteren Welt zurechtzukommen. Ihr Publikum muss nicht groß sein – nicht jeder ist ein Carl Sagan, ein Neil deGrasse Tyson, eine Mai Thi Nguyen-Kim oder ein Martin Moder, ich bin es bestimmt nicht. Es kann auch einfach nur die Familie oder der Freundeskreis sein.

Im Privaten merke ich das nicht selten, wenn es um Medizin geht. Ich habe manchmal den Eindruck, dass es unter Ärzten furchtbar schlechte Erklärer gibt: Menschen, die nur innerhalb ihres eigenen Jargons kommunikationsfähig sind und bei denen man als Laie mit Schweigen besser bedient wäre. Ich weiß nicht, wie viel Zeit ich schon damit verbracht habe, mich in einen Sachverhalt einzulesen, um etwas zu erklären, das eigentlich die Aufgabe eines anderen gewesen wäre: von jemandem, der beurteilen kann, ob die Erklärung fachlich stimmt und nicht zu stark vereinfacht. But here we are.

Bei KI ist es ähnlich. Ob man sie nun für die tollste Erfindung seit geschnittenem Brot hält oder für den fünften apokalyptischen Reiter (auf einem leicht blau leuchtenden Pferd) – diese Technik ist massiv erklärungsbedürftig. Und da sie absehbar das Leben aller Menschen beeinflussen wird, muss sie auch allen Menschen erklärt werden. Inzwischen ist sie sogar bei Familienfeiern Thema, zwischen Kaffee und Kuchen.

Deshalb bin ich ständig auf der Suche nach neuen gedanklichen Bildern, mit denen sich KI erklären lässt. Und ich geb’s ja zu: Ich bediene mich gern hemmungslos bei Leuten, die einen Sachverhalt schon gut erklärt haben. Es ist eben manchmal so verdammt schwer, eine gute Analogie zu finden.

Aus diesem Grund habe ich mir vor Kurzem ein Buch der Informatikerin Katharina Zweig gekauft: „Weiß die KI, dass sie nichts weiß?“

Ich mag an diesem Buch besonders einen kleinen Kunstgriff, den ich unheimlich wichtig finde. Sie merkt an, dass wir für vieles, was eine KI tut, menschliche Begriffe verwenden, die eigentlich nicht so recht passen. Denn KIs tun etwas, das von außen ähnlich aussieht, aber ganz anders funktioniert. „Die KI hat geschlussfolgert“ oder „Die KI denkt“ – aber eigentlich ist es weder Schlussfolgern noch Denken. Es ist etwas anderes, das sehr oft sehr gute Ergebnisse liefert, für das uns aber ein passendes Wort fehlt. Katharina Zweig setzt deshalb häufig eine Tilde davor, also „~denken“. Ich halte das für einen guten Weg, unterschiedliche Dinge auseinanderzuhalten, auch wenn uns ein exakteres Wort dafür fehlt.²

Dass das notwendig ist, merke ich an mir selbst. Obwohl ich recht gut weiß, wie ein LLM funktioniert und was es tut, sage ich im Umgang damit oft „Sorry“, „Bitte“ oder „Danke“. Das ist nicht so seltsam, wie es klingt: Piloten steigen nach einem besonders schwierigen Szenario mitunter nass geschwitzt und bleich aus dem Flugsimulator, obwohl sie wissen, dass alles nur simuliert war – weil die Simulation im Kopf echt genug ist. Genauso ist es mit LLMs: Manchmal ist die Simulation eines Gesprächs so gut, dass wir einen Gesprächspartner vermuten, der denkt und nicht „nur“ ~denkt.

Der Titel verrät schon die Grundrichtung: Dass die KI nichts weiß, setzt er voraus – offen ist nur, ob sie es selbst weiß. Trotzdem sollte man das Buch nicht als Abrechnung mit KI missverstehen. Es ist eine fundierte Einschätzung, wie KI funktioniert, was sie kann und was nicht – und damit auch, wofür sie taugt und wofür eben nicht.

Da immer mehr Politiker das Wort „KI“ an allen Ecken und Enden verwenden, als wäre die Abkürzung an sich schon ein problemlösendes Mantra und nicht bloß die Bezeichnung für ein Werkzeug, halte ich es für wichtig, sich einen Überblick zu verschaffen: aus kritischen Sichtweisen, positiven Ausblicken und vor allem aus erklärenden, realistischen Einblicken. Für Letzteres ist das Buch von Katharina Zweig wirklich gut. Denn sie ist eine Erklärerin.³