Zwei Bücher über KI – und eine dritte Perspektive

Kränkung oder Ermächtigung?

Künstliche Intelligenz scheint unter Intellektuellen derzeit vor allem zwei Reaktionen hervorzurufen: Kränkung und Furcht. Der eine fragt, was vom Menschen übrigbleibt, wenn Maschinen Leistungen erbringen, die wir bislang als Ausdruck menschlicher Intelligenz verstanden haben. Die andere fragt, was aus Gesellschaft und Demokratie wird, wenn wenige Technologiekonzerne über Daten, Kommunikation, künstliche Intelligenz und zunehmend über politische Infrastruktur verfügen.

Rüdiger Safranski und Asma Mhalla stehen für diese beiden Perspektiven. Safranski schaut vor allem auf den Menschen und sein Selbstverständnis, Mhalla auf die Macht. Beide beschreiben etwas Wesentliches. Und doch lassen beide eine Leerstelle: die politische Handlungsfähigkeit des Menschen in einer liberalen Demokratie.

Safranski bezeichnet Künstliche Intelligenz im Titel seiner Schrift als „vierte Kränkung“ des Menschen. Nach Kopernikus ist der Mensch nicht das Zentrum des Universums; nach Darwin teilt der Mensch seine Ahnenreihe mit dem Affen; nach Freud ist der Mensch durch das Unbewusste nicht Herr im Haus. Nun tritt die künstliche Intelligenz als vierte Zumutung für das menschliche Selbstbild auf. Etwas, das weder Leib noch Bewusstsein noch Empfindung besitzt, erbringt Leistungen, die bislang dem menschlichen Geist vorbehalten schienen. Safranski warnt zudem vor einer Delegation geistiger Fähigkeiten: Wer Denken, Schreiben und Urteilen zunehmend Maschinen überlässt, könnte diese Fähigkeiten selbst verlernen.

Das ist ein ernstzunehmender Einwand. Fähigkeiten verkümmern, wenn sie nicht gebraucht werden. In zwei Kapiteln warnt Safranski vor vielen negativen Folgen der Künstlichen Intelligenz. Um anschließend in einem argumentativen Krebsgang seine Eingangsthese der Kränkung infrage zu stellen. Wieviel mehr ist doch der menschliche Geist, welche Dimensionen teilt er nicht mit der KI! Wir freuen uns mit ihm über jeden aufgefundenen Unterschied. Nur, warum dann der Titel?

Natürlich kann man sich als Intellektueller, der sein ganzes Leben mit Lernen, Exzerpieren, Redigieren, Diskutieren und eben Philosophieren verbracht hat, von den Leistungen der KI gekränkt fühlen. Der Aspekt der Kränkung ist auch aus Sicht der europäischen Geistesgeschichte, die das Denken als Unterscheidung zum Tier, als Existenzbestätigung (cogito ergo sum) oder zumindest als Differenzierungsmerkmal des auf sich selbst zurückgeworfenen Individuums betrachtet hat, naheliegend.

Andererseits ist KI ein vom Menschen geschaffenes Werkzeug, das (bis auf Weiteres) gepromptet und beherrscht werden kann. Warum sollte es kränkend sein, wenn ein solches Werkzeug Aufgaben besser erledigt als sein Schöpfer? Es fühlt sich kaum jemand durch einen Schachcomputer, ein Navigationssystem oder einen Taschenrechner gekränkt. Wir haben uns daran gewöhnt, uns die Leistung solcher Werkzeuge selbst zuzurechnen.

Warum sollte das bei künstlicher Intelligenz grundsätzlich anders sein? Bald wird man stolz darauf sein, was Menschen mit ihrer Hilfe zustande bringen. Der Architekt, Wissenschaftler, Ingenieur, Musiker, Unternehmer oder Autor verliert nicht notwendig an Bedeutung, wenn ein Werkzeug leistungsfähiger wird und seine Möglichkeiten erweitert.

Die entscheidende Frage lautet deshalb vielleicht weniger, ob die Maschine uns ähnlich wird, sondern was der Mensch mit der Macht macht, die ihm dieses Werkzeug gibt.

Safranskis Gewaltenteilung

Gerade hier ist Safranski politischer, als es seine Kränkungsthese zunächst vermuten lässt. Schon im ersten Kapitel, „Künstliche Intelligenz als Prothesengott“, setzt er auf Seite 10 der drohenden „Technik als totale Macht“ das Prinzip der Gewaltenteilung entgegen. Dabei meint er ausdrücklich nicht nur die klassische Trennung von Legislative, Exekutive und Judikative. Er erweitert den Begriff auf die verschiedenen „Lebensmächte“ – Ökonomie, Religion, Wissenschaft, Technik, Politik, Öffentlichkeit und Privatsphäre –, deren Spannungen und wechselseitige Begrenzung den Einzelnen vor totalen Machtansprüchen schützen sollen.

Das ist ein starker Gedanke. Safranski erkennt, dass KI nicht bloß technische oder anthropologische Herausforderungen stellt, sondern ein Machtproblem. Gerade eine „kluge Gewaltenteilung und Ausbalancierung“ dieser Lebensmächte soll verhindern, dass sich eine einzige Sphäre zur Totalität aufspreizt.

Am Ende des Buches kehrt er zu demselben Motiv zurück. Auf Seite 104 heißt es: „Gewaltenteilung soll schützen vor der Überwältigung durch eine einzige Macht, die sich zur Totalität aufspreizt.“ Und er benennt diese Macht unmittelbar: die digitale Technik, insbesondere die KI, „angetrieben von einer gemeinwohlvergessenden Ökonomie“.

Damit liefert Safranski fast schon die Formel für eine liberale Antwort auf die digitale Machtkonzentration. Doch ausgerechnet dort, wo ihre praktische Ausarbeitung beginnen müsste, endet die politische Analyse. Er fragt, ob sich die Entwicklung überhaupt noch „in Grenzen halten“ lasse, lässt die Frage offen und beschließt seine Überlegungen mit Goethes Zauberlehrling. Dort gibt es glücklicherweise noch den Meister, der die außer Kontrolle geratenen Kräfte wieder bändigt.

Safranski erkennt das politische Problem, aber er politisiert seine Lösung nicht. Er fordert Gewaltenteilung, bleibt jedoch schuldig, wer sie gegenüber der digitalen Technik herstellen soll und mit welchen institutionellen Mitteln. Am Ende lähmt die Hoffnung auf den Meister das politische Handeln in der demokratischen Gesellschaft.

Safranski kritisiert zurecht, dass dem technischen Fortschritt beinahe eine eigene Souveränität zuschrieben wird. Eine nennenswerte Diskussion über das Warum und Wie findet bei uns zu wenig statt. Auch Einschränkungen der „Quasi-Göttlichkeit des intelligenten Maschinenparks“ werden angesichts des rasenden Veränderungstempos zu langsam durchgesetzt. Totalitäre Macht besitzt (oder verleiht) die Technik als solche aber nicht.

Mhallas Cyberpunk: die Machtanalyse

An diesem Punkt wird Asma Mhallas „Cyberpunk“ besonders interessant. Ihre düstere Welt entsteht nicht durch eine rebellierende künstliche Intelligenz, sondern durch eine neue Verbindung von staatlicher und technologischer Macht. Ihr „Big State“ ist ein zweiköpfiger Leviathan: politische Macht auf der einen, die Macht der großen Technologiekonzerne auf der anderen Seite. Wo beide ineinandergreifen, entsteht eine Souveränität, die sich demokratischer Kontrolle zunehmend entziehen kann.

Schon die Logik ihrer Kapitel – vom minimalen und zugleich totalen Staat bis zum kognitiven Totalitarismus – macht deutlich, wie umfassend sie die Entwicklung versteht. Das Entscheidende ist der scheinbare Widerspruch: Staatliche Institutionen können geschwächt, privatisiert oder ausgehöhlt werden, während die tatsächlichen Möglichkeiten zur Kontrolle des Einzelnen gleichzeitig wachsen. Weniger klassischer Staat bedeutet dann keineswegs weniger Macht.

Technologiekonzerne organisieren längst einen großen Teil gesellschaftlicher Öffentlichkeit. Ihre Algorithmen entscheiden mit darüber, welche Informationen sichtbar werden, welche verschwinden und welche sich explosionsartig verbreiten. Sie verfügen über Daten, Modelle, Kommunikationsnetze, Rechenzentren und andere Infrastruktur, die auch Staaten benötigen.

Mhallas Warnung vor einem „Cyberfaschismus“ oder kognitiven Totalitarismus ist drastisch, trifft aber einen entscheidenden Punkt: Macht muss heute nicht allein durch Verbote und Zwang ausgeübt werden. Man kann Menschen auch steuern, indem man Aufmerksamkeit organisiert, Wahrnehmung strukturiert, Affekte verstärkt und den Informationsraum sättigt. Wenn ein technisches System darüber entscheidet, was wir überhaupt noch wahrnehmen können, muss ein totalitärer Staat uns nicht mehr sagen, was wir denken sollen.

Die überraschend private Antwort

Umso erstaunlicher ist die Konsequenz, die Mhalla aus dieser strukturellen Machtanalyse zieht. Ihre Antwort kreist stark um kognitive Freiheit, Distanz, Privatheit, die Rückgewinnung der eigenen Aufmerksamkeit und die Fähigkeit zum Nein. Das ist keineswegs belanglos. Wer sein Urteil vollständig an Empfehlungssysteme, Feeds und permanente digitale Reizung delegiert, verliert tatsächlich einen Teil seiner Autonomie.

Aber die praktische Konsequenz bleibt merkwürdig klein gegenüber der Größe der zuvor beschriebenen Bedrohung. Wenn das Problem ein zweiköpfiger Leviathan aus staatlicher und technologischer Macht ist, kann die Antwort sich nicht darin erschöpfen, dass der einzelne Bürger bewusster klicken, weniger teilen und sich gelegentlich in die physische Welt zurückziehen sollte.

Das kann persönlich vernünftig sein. Politisch reicht es nicht. Der Einzelne kann keine Bot-Armeen verhindern. Er kann keine Plattformmonopole aufbrechen, keine Rechenzentren bauen, keine Interoperabilität erzwingen und nicht bestimmen, nach welchen Regeln Algorithmen politische Öffentlichkeit organisieren.

Die vergessene liberale Demokratie

Die liberale Demokratie erscheint bei Mhalla überraschend randständig. Sie beschreibt ihre Erosion, ihre Aushöhlung und ihre mögliche Übernahme durch neue technopolitische Machtstrukturen. Zugegeben haben liberale Demokratien (vor allem der USA) bisher wenig Wehrhaftigkeit gegenüber ihren neofaschistischen Bedrohungen gezeigt. Sie werden nicht ernst genommen, sie werden taktischen Gesichtspunkten untergeordnet oder schlichtweg ignoriert, anstatt frühzeitig auf die massive Konfrontation zu reagieren, der die liberale Demokratie tatsächlich gegenübersteht.

Dabei besitzt gerade sie ein historisch erprobtes Instrumentarium für das Problem, das Mhalla beschreibt. Liberalismus beruht nicht auf der Annahme, Macht könne verschwinden. Er beruht auf Misstrauen gegenüber konzentrierter Macht. Deshalb Gewaltenteilung. Deshalb Grundrechte. Deshalb unabhängige Gerichte, Öffentlichkeit, Opposition und Kartellrecht.

Warum sollten diese Prinzipien ausgerechnet dort enden, wo Macht technologisch wird? Safranskis erweiterter Begriff der Gewaltenteilung könnte hier zum Ausgangspunkt einer praktischen Politik werden: Nicht die Technik muss gebannt, sondern ihre Macht muss verteilt, begrenzt und kontrolliert werden.

Die Regeln der neuen Öffentlichkeit

Der erste Ansatzpunkt sind die sozialen Plattformen. Facebook, Instagram, TikTok, X und ihre künftigen Nachfolger sind nicht bloß private Kommunikationsdienste. Sie bilden einen erheblichen Teil der politischen Öffentlichkeit. Trotzdem werden die Regeln dieses öffentlichen Raums im Wesentlichen von privaten Unternehmen festgelegt.

Die liberalen Demokratien müssen klarer erkennen, wo ihre schutzwürdigen Güter gefährdet sind. Nicht überall, wo Menschenwürde, Meinungsfreiheit oder individuelle Freiheit reklamiert werden, werden diese Güter auch verteidigt. Sie können ebenso als Deckbegriffe für Manipulation, Einschüchterung, Entmenschlichung oder die systematische Zerstörung gemeinsamer Öffentlichkeit missbraucht werden. Eine wehrhafte liberale Ordnung muss solchen Missbrauch unterscheiden können, ohne selbst illiberal zu werden. Sie darf nicht jede Berufung auf Freiheit mit Freiheit verwechseln.

Wenn die Begriffe, auf denen die liberale Demokratie beruht, einer „Umwertung aller Werte“ unterzogen werden, höhlt das ihre normativen Grundlagen aus: Freiheit wird zur Freiheit des Stärkeren, Meinungsfreiheit zum Recht auf industrielle Manipulation, Menschenwürde zum rhetorischen Schutzschild beliebiger Interessen. Eine Demokratie, die diesen Bedeutungswandel widerspruchslos hinnimmt, verteidigt ihre Werte nicht – sie überlässt ihre Definition anderen.

Das wird beim Verhältnis von Mensch und Maschine besonders deutlich. Meinungsfreiheit ist ein Recht von Menschen, nicht von Bot-Armeen. Automatisierte Accounts müssten deshalb entweder ausgeschlossen oder eindeutig und dauerhaft als solche gekennzeichnet werden. Die massenhafte künstliche Erzeugung scheinbarer Zustimmung, Empörung oder gesellschaftlicher Mehrheiten ist keine schützenswerte Meinungsäußerung, sondern Manipulation der Öffentlichkeit.

Dazu könnte ein Identitätsnachweis treten, ohne daraus eine Klarnamenpflicht zu machen. Ein Nutzer könnte weiterhin unter einem Pseudonym auftreten; gegenüber einer vertrauenswürdigen und datensparsamen Instanz müsste jedoch nachgewiesen sein, dass hinter dem Konto ein realer Mensch steht. Anonymität kann schützenswert sein. Künstliche Identität ist es nicht.

Für politische Werbung, koordinierte Kampagnen und große Reichweiten müssten strengere Transparenzregeln gelten. Wer versucht, Hunderttausende oder Millionen Menschen politisch zu beeinflussen, sollte offenlegen müssen, in wessen Auftrag, mit welchem Budget und mit welchen technischen Mitteln dies geschieht. Der Staat würde damit nicht entscheiden, welche Meinung richtig ist. Er würde die Spielregeln des öffentlichen Raums bestimmen – genau wie er auch die Regeln einer Wahl bestimmt.

Kinder sind keine Trainingsobjekte

Besonders offensichtlich wird das regulatorische Defizit beim Schutz Minderjähriger. Eine Gesellschaft reguliert Alkohol, Glücksspiel, Pornografie, Arzneimittel und zahlreiche andere Bereiche mit der Begründung, Kinder könnten bestimmte Risiken noch nicht ausreichend einschätzen. Gleichzeitig überlassen wir ihre Aufmerksamkeit hochentwickelten algorithmischen Systemen, deren wirtschaftliches Ziel darin besteht, möglichst viel davon zu binden.

Alterskontrollen, Einschränkungen personalisierter Werbung, Beschränkungen manipulativer Empfehlungssysteme und besondere Designvorschriften für Minderjährige wären deshalb nicht technikfeindlich. Sie wären klassische Schutzgesetzgebung.

Eine liberale Demokratie schützt nicht nur Freiheit. Sie schafft Voraussetzungen dafür, dass Menschen überhaupt fähig bleiben, Freiheit auszuüben. Gerade hier ließe sich Mhallas Idee kognitiver Freiheit institutionell ernst nehmen, anstatt sie überwiegend dem Einzelnen zu überlassen.

Gewaltenteilung für Big Tech

Der nächste Schritt reicht tiefer. Ein Unternehmen, das gleichzeitig Infrastruktur bereitstellt, Daten sammelt, Kommunikation organisiert, Werbemärkte beherrscht und die dafür entscheidenden Algorithmen entwickelt, vereinigt verschiedene Formen von Macht. Im politischen Bereich würden wir eine solche Konzentration niemals akzeptieren.

Dort trennen wir Legislative, Exekutive und Judikative gerade deshalb, weil wir nicht darauf vertrauen wollen, dass derjenige, der Macht besitzt, sie freiwillig vernünftig einsetzt. Warum sollte das bei technologischer Macht anders sein?

Interoperabilität, offene Schnittstellen, Datenportabilität, die Trennung bestimmter Geschäftsfelder und notfalls die Entflechtung und Regionalisierung dominierender Unternehmen sind deshalb mehr als Wirtschaftspolitik. Sie wären eine Form digitaler Gewaltenteilung – eine praktische Umsetzung jenes Prinzips, das Safranski zurecht benennt.

Souveränität muss auch etwas besitzen

Doch Regulierung allein genügt nicht. Wenn europäische Staaten für Verwaltung, Wirtschaft, Verteidigung und Kommunikation vollständig von außereuropäischen Cloud-Anbietern, Satelliten, Chipproduzenten und KI-Modellen abhängig werden, bleibt ihre Souveränität formal.

Man kann nur begrenzt über jemanden herrschen, von dessen Infrastruktur man existenziell abhängig ist. Europa braucht deshalb eigene Rechenkapazitäten, Cloud-Infrastruktur, Chipkompetenz, KI-Modelle und öffentliche Datenräume. Nicht aus technologischem Nationalismus, sondern aus einem alten liberalen Gedanken: Abhängigkeit erzeugt Macht. Wer Macht begrenzen will, muss Alternativen schaffen.

Von der Kränkung zur Ermächtigung

An dieser Stelle begegnen sich Safranski und Mhalla noch einmal. Safranski fürchtet um die geistige Sonderstellung des Menschen. Mhalla um seine politische und kognitive Autonomie. Beide Verteidigungsbewegungen haben ihre Berechtigung. Aber beide unterschätzen auf unterschiedliche Weise den handelnden Menschen.

Safranski erkennt das politische Problem, ohne seine Lösung politisch auszuarbeiten. Er setzt auf Gewaltenteilung, benennt aber nicht, wer sie gegenüber der digitalen Technik herstellen soll und mit welchen institutionellen Mitteln. Wer will der Meister aus Goethes Zauberlehrlings sein? Mhalla analysiert die neue technopolitische Macht präziser, belässt ihre Gegenstrategie aber auffallend stark beim Individuum: kognitive Freiheit, Distanz und die Rückgewinnung des Privaten.

Der eine wartet am Ende auf den Meister, die andere auf den souveränen Einzelnen. Warten auf Godot? Die liberale Demokratie müsste stattdessen selbst handeln.

Dabei sollte sie Technik nicht nur als Bedrohung betrachten. Der Mensch darf sich künstliche Intelligenz aneignen. Er darf mit ihr mehr wissen, schneller arbeiten, besser gestalten und Dinge schaffen, die ihm ohne sie nicht möglich wären. Er darf sogar stolz darauf sein.

Die eigentliche Gefahr beginnt nicht mit diesem Stolz. Sie beginnt, wenn aus gesteigerter Fähigkeit ein gesteigerter Herrschaftsanspruch entsteht. Wer durch KI tausendfach kommunizieren, analysieren oder beeinflussen kann, besitzt Macht. Wer zusätzlich die Infrastruktur kontrolliert, auf der andere Menschen arbeiten, kommunizieren und sich informieren, besitzt noch mehr davon. Wenn sich Menschen von einem Bruchteil ihres wirtschaftlichen Vermögens unkontrollierte Massenkommunikationsmittel kaufen können, brauchen wir uns über den Zustand der liberalen Demokratien nicht zu wundern.

Der entscheidende Gegensatz verläuft weder zwischen Mensch und Maschine noch zwischen natürlichem und künstlichem Geist. Er verläuft zwischen verteilter Ermächtigung und konzentrierter Macht. Zwischen unvorstellbarer Kaufkraft und schleichender Verarmung.

Die liberale Antwort auf künstliche Intelligenz müsste folglich darin bestehen, möglichst vielen Menschen Zugang zu ihrer Produktivität und ihren Möglichkeiten zu geben und gleichzeitig zu verhindern, dass wenige Akteure daraus eine neue Form politischer Souveränität entwickeln. Das wird nur mit einer Begrenzung der wirtschaftlichen Macht einzelner Akteure funktionieren.

Nicht Rückzug aus der technologischen Welt wäre dann die Antwort auf „Cyberpunk“, sondern die Republikanisierung technologischer Macht.

Safranski erinnert daran, dass wir das Denken nicht verlernen dürfen. Mhalla erinnert daran, dass wir uns das Denken nicht organisieren lassen dürfen. Die liberale Demokratie müsste einen dritten Satz hinzufügen: Wir dürfen uns auch die Macht über die Bedingungen unseres Denkens nicht aus der Hand nehmen lassen.

Vielleicht besteht die „vierte Kränkung“ weniger darin, dass Maschinen uns bis zur Verwirrung simulieren können, sondern in der Erkenntnis, dass wir Menschen unsere selbst geschaffenen Machtinstrumente zwar technisch beherrschen, politisch aber nicht mehr zu begrenzen wagen.

Rüdiger Safranski: Die Vierte Kränkung. Menschlicher Geist im Schatten der Künstlichen Intelligenz. Carl Hanser Verlag, München 2026, 112 Seiten. ISBN 978-3-446-28177-6.

Asma Mhalla: Cyberpunk. Das neue totalitäre System. Aus dem Französischen von Stephanie Singh. C.H.Beck, München 2026, 137 Seiten. ISBN 978-3-406-85312-8.