Künstliche Intelligenz und der neue Faschismus

geschrieben am 17. Oktober 2026, gelesen März 2026

Es gibt im Reclam-Verlag eine kleine, aber meines Erachtens sehr feine Serie von Büchlein. Die Serie hat den Titel „Was bedeutet das alles?“. Die Bücher haben ungefähr das Format der Reclam-Hefte, die ich aus Schulzeiten kannte. Sie sind nur nicht gelb, sondern bunt. „Was bedeutet das alles?“ ist durchaus eine Frage, die ich mir häufiger stelle.

Ich habe mir aus der Serie mittlerweile einige Bände gekauft. Einer davon ist „Künstliche Intelligenz und der neue Faschismus“. Der Autor sagt klar, dass KI keine faschistische Technologie ist, schlägt aber sehr sauber den Bogen dazu, wie diese Technologie genutzt werden kann und wie sie sich in bestimmte Ideologien einfügt. Man muss also jedwede Naivität, die man sich gedanklich leistet („ist doch nur ein Werkzeug“), wenn man dieser Technologie (wie auch anderen) begegnet, deutlich auf den Prüfstand stellen.

In meinem eigenen Denken hat sich allerdings ein Teilproblem sehr stark „verhakt“: die Diskussion, inwieweit probabilistische Entscheidungsfindung (und KI ist nun einmal ein auf Wahrscheinlichkeiten basierender Prozess) im Verhältnis zu rechtsstaatlichen Grundprinzipien und unserem Normengebäude steht.

Der Autor beschreibt das als den Gegensatz von Einzelfallentscheidung und Fallwette. Das ist jetzt nichts KI-Spezifisches, sondern betrifft alle Technologien, bei denen nicht auf Basis einer genauen Prüfung der einzelnen Situation entschieden wird, sondern auf Basis statistischer Prozesse und der Vergleichbarkeit mit anderen Fällen eine Entscheidung getroffen wird, die meistens oder so gut wie immer stimmt, aber eben nicht notwendigerweise immer, insbesondere weil sie dem Optimierungsdilemma solcher Prozesse unterliegt: gleichzeitig darauf zu optimieren, in allen Fällen richtig zu liegen, aber keine Sonderfälle zu übersehen. Das zeigt der Autor am Beispiel von Bewerbungen. Ausschließlich passende Kandidaten aus den Bewerbungen zu filtern und gleichzeitig geeignete Bewerber zu finden, die den Kriterien zwar nicht entsprechen, aber genauso gut oder besser passen – beides zugleich sicherzustellen, ist schwierig bis unmöglich.

Das mag für geschäftliche Prozesse okay sein. Aber insbesondere an die Anwendung von Gesetzen haben wir höhere Anforderungen, was sich – wie ich anmerken möchte – schon darin zeigt, dass eine Rechtsschutzversicherung heute eigentlich zum guten Ton gehört, um das Kostenrisiko zu minimieren, falls man Entscheidungen vor Gericht überprüfen lassen will.¹

Und da sind wir noch nicht einmal bei der Herausforderung, dass wir das Recht haben, eine Entscheidung erklärt zu bekommen – was sich bei der Nutzung einer Technologie, in der dieses „Warum?“ immer noch ein aktives Forschungsproblem darstellt, als schwierig erweisen kann.²

Ich möchte darauf hinweisen, dass ich hier explizit keine KI-ablehnende Position einnehme. Auch ein Prozess aus Einzelfallentscheidungen ist nicht fehlerfrei. Menschen machen Fehler, und auch automatisierte Systeme zu deren Unterstützung können fehlerbehaftet sein.

Was ist beispielsweise, wenn ein Prozess, der auf automatisierten Fallwetten basiert, weniger Fehler macht als ein Prozess, der aus von Menschen gefällten Einzelfallentscheidungen besteht? Was ist, wenn wir aufgrund gesellschaftlicher Entwicklungen wie dem doppelten demographischen Problem (mehr Bedarf durch den Wandel, gleichzeitig weniger Personal durch dieselbe Entwicklung) in Zukunft gar nicht genügend Menschen haben, um in der gebotenen Zeit Einzelfallentscheidungen zu treffen? Und wie könnte man gegebenenfalls Fallwetten und Einzelfallentscheidungen miteinander kombinieren?

Wäre es ein möglicher Weg, KI nicht selbst über Einzelfälle entscheiden zu lassen, sondern sie zur Entwicklung deterministischer Systeme einzusetzen, die Menschen bei der Einzelfallentscheidung unterstützen?³ Die Entscheidungen wären dann zwar immer noch nicht notwendigerweise richtig oder gerecht. Der Entscheidungsweg ließe sich aber eindeutig nachvollziehen und gegebenenfalls korrigieren oder erweitern. Außerdem würde man LLM-basierte KI dort einsetzen, wo eine ihrer großen Stärken liegt: bei der Analyse sprachlicher Konstrukte – etwa von Gesetzen – und der Erzeugung neuer sprachlicher Konstrukte, in diesem Fall von Programmcode.

Das ist eine Diskussion, die zu führen ist. Allein das Problem der Fallwette versus Einzelfallentscheidung so klar zu formulieren und auch in einen gesellschaftlichen Kontext einzubinden, war unabhängig vom weiteren Text für mich schon die Lektüre dieses Buches wert. Ich halte dieses eine Kapitel für einen wichtigen Debattenbeitrag, den es bei aller Effizienzdiskussion über staatliche Prozesse zu bedenken gilt.⁴ Dass ein Buch seinen Lesern „Food for Thought“ gibt, ist vielleicht das größte Lob, das man ihm machen kann. Und für mich hat das Buch hier geliefert.