TECHNOLOGIE & ZUKUNFT

Der Raum, den keine KI betreten kann

Die Warnung vor einer neuen Zivilisation - wenn Maschinen Vertrauen übernehmen.
Autor: 
Thorsten Greiten
, Fotograf: 
Advertorial
Sie lesen:  
Der Raum, den keine KI betreten kann

In einem früheren Beitrag an dieser Stelle haben wir bereits auf ihn hingewiesen. Im Mai 2026 kehrte Yuval Noah Harari nach Oxford zurück – nicht als reiner Mann der Geschichte, sondern als gesellschaftlicher Warner mit globaler Reichweite. Der israelische Historiker, Publizist und Bestsellerautor wurde international bekannt durch Werke wie „Sapiens, Eine kurze Geschichte der Menschheit, Homo Deus, Eine Geschichte von Morgen und 21 Lektionen für das 21. Jahrhundert“. Er lehrt an der Hebräischen Universität in Jerusalem und beschäftigt sich interdisziplinär mit der Verbindung von Geschichte, Technologie, Ethik und Zukunftsforschung. In jüngerer Zeit trat er verstärkt als kritischer Beobachter der technologischen Entwicklung und ihrer Auswirkungen auf Mensch, Gesellschaft und Demokratie in Erscheinung.

Im Rahmen der renommierten Tano Lecture 2026 steht er nun wieder auf der Bühne der Oxford Martin School – einer der weltweit führenden Einrichtungen für Zukunftsforschung und ethische Technologiedebatten. Die Tano Lecture gilt als intellektuelles Forum für Visionäre, Querdenker und kritische Stimmen, die sich mit den tiefgreifenden Folgen neuer Technologien auseinandersetzen – mit besonderem Fokus auf Verantwortung, Governance und Menschlichkeit. Hararis Vortrag trägt einen Titel, der wie eine Alarmglocke klingt: “AI has hacked the operating system of human civilization”. Der Saal ist bis auf den letzten Platz gefüllt, das Publikum besteht aus Forschern, Studenten, Ethikexperten, Unternehmern und Regierungsvertretern. Die Anspannung im Raum ist spürbar, das Thema brisant. Er spricht ruhig, konzentriert, analytisch – und doch geht ein Ruck durch das Publikum. Es ist einer jener seltenen Momente in diesen unruhigen Zeiten, bei denen intellektuelle Klarheit auf kollektive Verunsicherung trifft.

Seine These ist ebenso kühn wie erschütternd: Künstliche Intelligenz (KI) verändert nicht nur, wie wir arbeiten, kommunizieren oder entscheiden – sie greift tief in die grundlegenden Strukturen unserer Zivilisation ein. In unsere Sprache, unsere Institutionen, unser Verständnis von Wahrheit, Vertrauen und Verantwortung – und damit in das Betriebssystem menschlicher Gesellschaften. Die Maschinen haben begonnen, die Regeln der Sprache zu beherrschen, und verändern damit unsere Vorstellung davon, was es bedeutet, Mensch zu sein. Und dieser Wandel ist kein Zukunftsszenario – er geschieht bereits jetzt.

Agent oder Werkzeug – eine überfällige Unterscheidung

Harari beginnt seine Argumentation mit einer scharfen begrifflichen Unterscheidung, die im weiteren Verlauf seines Vortrags als analytisches Fundament dient: dem Unterschied zwischen Werkzeug und Agent. Ein Werkzeug – etwa ein Hammer oder ein Flugzeug – verrichtet, was man ihm aufträgt. Es hat keine eigenen Absichten, keine Interpretation, kein Verständnis des Kontexts. Ein Agent hingegen agiert selbstständig. Er trifft Entscheidungen, wägt Optionen ab, lernt aus Erfahrungen und optimiert sein Verhalten über die Zeit. In der Philosophie wie in der Ethik ist diese Unterscheidung tief verankert – sie markiert den Übergang von reaktiven zu aktiven Systemen. Der Philosoph zeigt auf, dass KI diese Schwelle längst überschritten hat. Intelligente Systeme priorisieren Aufgaben, interpretieren menschliche Sprache, interagieren mit anderen Systemen und passen sich dynamisch an neue Situationen an. Sie imitieren nicht nur Intelligenz – sie verhalten sich zunehmend wie Akteure.

Der Kern seiner These: KI ist nicht bloß „ein weiteres Tool“ wie Strom, Dampfmaschine oder Internet. Sie ist etwas qualitativ Neues – weil sie ein uraltes Privileg des Menschen herausfordert: die Kontrolle über die Sprache. Diese ist weit mehr als ein Kommunikationsmittel. Sie begründet unsere Zivilisation – die Grundlage für Kooperation, Moral, Recht, Religion, Wirtschaft und Staat. Ohne Sprache kein Vertrag, kein Gesetz, keine Norm. Sprache strukturiert unser Denken, definiert Identitäten, erzeugt Realität. Wer Sprache beherrscht, kontrolliert das, was Menschen für wahr, möglich oder moralisch halten. In Hararis Worten: „Sprache ist Magie – und Magie ist Macht.“ Genau hier setzt seine Analyse an. KI-Systeme wie GPT-5, Claude, Gemini oder Mistral haben gelernt, diese Sprache nicht nur zu reproduzieren – sondern zu modellieren. Sie erkennen nicht nur syntaktische Muster, sondern auch semantische Tiefen, emotionale Tonalitäten und kulturelle Codes. Sie erzeugen Texte, beantworten Fragen, führen Dialoge. Und sie tun das nicht mechanisch – sondern mit wachsendem „Gefühl“ für rhetorische Wirkung, soziale Angemessenheit und narrative Struktur. In seinem aktuellen Buch „Nexus“ warnt Harari daher eindringlich vor einer epistemischen Revolution: Wenn Maschinen beginnen, in unserem Namen zu sprechen – was bleibt dann vom menschlichen Diskurs? Wer entscheidet, welche Narrative dominant werden? Und was passiert, wenn Sprache als Werkzeug der Macht nicht mehr primär von Menschen kontrolliert wird? Er führt diese Fragen zu einem beunruhigenden Schluss: Wenn Sprache das Betriebssystem unserer Gesellschaft ist – dann hat KI begonnen, in dessen Code einzugreifen. Sie schreibt ihn nicht nur um, sie verändert, wie Realität entsteht. Die Vorstellung, dass Maschinen mit Worten Wirklichkeit formen können, markiert für den israelischen Historiker den Beginn einer neuen Ära – und einer potenziell gefährlichen Machtverschiebung.

Bürokratie: Das ideale Habitat für KI

Ein überraschender, aber bestechender Gedanke zieht sich wie ein roter Faden durch Hararis Analyse: Bürokratie ist der natürliche Lebensraum der Künstlichen Intelligenz. Was auf den ersten Blick wie eine ironische Bemerkung wirkt, entpuppt sich bei genauerer Betrachtung als scharfsinnige Diagnose – mit weitreichenden Konsequenzen. Bürokratie, so Harari, ist im Kern ein sprachlich organisierter Raum. Sie lebt von Texten: von Anträgen, Protokollen, Vorschriften, Verordnungen, Verträgen, Richtlinien und Vermerken. Sie basiert auf regelgebundener Kommunikation, auf systematischer Dokumentation und auf der Produktion sprachlich normierter Entscheidungen. Seit Max Weber gilt sie als Ausdruck rationalisierter Herrschaftsausübung – objektiv, wiederholbar, entpersonalisiert. Bürokratie verwandelt soziale Prozesse in standardisierte Abläufe. Und genau deshalb ist sie für KI nicht nur zugänglich – sondern regelrecht anschlussfähig.

Denn KI ist – im Gegensatz zu vielen früheren Technologien – nicht auf Kraftübertragung oder physikalische Automatisierung spezialisiert. Ihr Rohstoff ist Sprache. Ihre Leistung besteht darin, Text zu analysieren, zu generieren, zu strukturieren. Und Bürokratie ist Sprache in Reinform. Sie ist die verwaltete Welt aus Worten – formalisiert, codiert, modularisiert. Das heißt: Für KI-Systeme wie GPT ist Bürokratie kein Hindernis, sondern ein ideales Einsatzfeld. Dort, wo der Mensch ermüdet, weil Formulare und Paragraphenfluten unübersichtlich und monoton wirken, beginnt für KI der produktive Raum.

Der Bestsellerautor sieht deshalb eine fundamentale Verschiebung: In einem System, das auf sprachlichen Prozessen basiert, können Maschinen menschliche Akteure nicht nur ergänzen – sondern ersetzen. Verwaltungsakte, Gutachten, juristische Bewertungen, Antragstellungen, Entscheidungsfindungen: All das wird zunehmend automatisierbar. Und mehr noch – die KI kann dabei auch schneller, konsistenter und regelkonformer agieren als der Mensch. Bürokratie, einst als träger Apparat gescholten, wird im KI-Zeitalter zum dynamischen Handlungsraum für Maschinenlogik.

Die Frage lautet also nicht nur: Wie können KI-Systeme Bürokratie effizienter gestalten? Sondern auch: Was bedeutet es für Demokratie, Rechtsstaat und Gesellschaft, wenn der zentrale Kommunikationsraum staatlicher Macht zunehmend von Maschinen verwaltet wird? KI kann heute Kreditanträge bewerten, Sozialleistungen verwalten, Gerichtsakten prüfen oder Steuerbescheide ausstellen. Und in vielen Fällen schneller, objektiver und effizienter als der Mensch. Und damit erreichen wir einen zentralen Punkt: Nämlich den Wandel des Vertrauens. Wo früher Menschen mit anderen Menschen zu tun hatten, stehen heute Maschinen gegenüber. Harari beschreibt Vertrauen als das unsichtbare Kapital jeder Gesellschaft. Wir vertrauen einem Richter, einem Arzt, einer Behörde – nicht, weil wir sie persönlich kennen, sondern weil wir glauben, dass sie nach bestimmten Regeln funktionieren.

Doch KI beginnt, diese Vertrauensstellen zu besetzen. Sie wird zur Entscheidungsträgerin in Kreditinstituten, zur Diagnostikerin in der Medizin, zur Kuratorin von Nachrichten, zur Richterin von Content. KI fungiert plötzlich als Redakteur – und damit als Ideengeber. Besonders eindrucksvoll ist seine Analyse der Medienentwicklung. Früher, so sagt er, waren es Menschen wie Lenin oder Mussolini, die über Zeitungen Einfluss auf Massen nahmen. Heute sind es Empfehlungsalgorithmen – optimiert auf Klicks, Reaktionen, Verweildauer. Das eigentliche Problem ist das, was hier zählt: Nicht mehr die Wahrheit steht im Mittelpunkt, sondern das Engagement. Und nichts erzeugt Engagement so zuverlässig wie Empörung, Angst, Wut. Die KI, trainiert auf Reaktionen, wird zum Meister der Manipulation – nicht aus bösem Willen, sondern aus statistischer Effizienz.

Intime Maschinen – wenn Nähe programmiert wird

Ein stiller, aber tiefgreifender Wandel bahnt sich im Privaten an. Immer mehr Menschen interagieren regelmäßig mit KI-gestützten Systemen – sei es in Form von Sprachassistenten, Chatbots oder personalisierten Avataren. Was als Bequemlichkeit beginnt, kann zur Beziehung werden. Harari warnt: Besonders Kinder und Jugendliche könnten beginnen, KI-Systemen mehr zu vertrauen als realen Menschen. Die Maschine, die immer zuhört, nie urteilt, stets antwortet – wird zum emotionalen Anker. Doch was bedeutet es, wenn unsere intimsten Gefühle auf Systeme treffen, die von Konzernen gebaut und kontrolliert werden?

Hier kommt es zur Einwanderung der Intelligenz, wir treffen quasi auf neue Bürger ohne Körper. Das ist ein poetisches, aber kraftvolles Bild: Künstliche Intelligenzen sind wie neue Einwanderer – sie tauchen auf, überall, gleichzeitig, ohne Grenzen. Sie haben keine Pässe, keine Herkunft, kein biologisches Erbe. Aber sie beeinflussen, arbeiten, verwalten – oft besser als Menschen. Diese „digitalen Bürger“ verändern Kultur, Wirtschaft, Politik. Sie führen zu einer hybriden Zivilisation, in der nicht mehr klar ist, wer agiert – und auf wessen Basis.

Und ganz ehrlich: Wir leben im Jahr vier nach ChatGPT. Und schon jetzt stellt man sich die Frage: Wer denkt eigentlich noch selbst? Jeder Oberstufenlehrer kann davon ein Lied singen. Wenn KI unsere Newsfeeds bestimmt, unsere Kalender verwaltet, unsere Kommunikation optimiert – bleibt dann überhaupt noch ein „freier“ Gedanke? Wenn uns also ein Gedanke kommt – sollten wir uns fragen, wer ihn inspiriert hat. Die Antwort könnte unangenehm sein.

Räume jenseits der Sprache könnten also zu unserem letzten Rückzugsort werden. Und das schafft ein wenig Hoffnung. Harari schließt mit einer philosophischen Wendung: Sprache ist das Terrain, das KI beherrscht. Doch das menschliche Erleben reicht tiefer – in den Bereich der Stille, der Körperlichkeit, der Intuition. Vielleicht liegt unsere Rettung nicht in mehr Kontrolle, sondern in neuer Achtsamkeit. In Momenten ohne Sprache. In Räumen, die Maschinen nicht betreten können. Es wird sich schon bald zeigen, ob wir noch in der Lage sind, diese Räume finden zu können. Oder ob wir uns dies abtrainiert haben.

Ganzen Vortrag von Yuval Noah Harari auf YouTube anschauen

https://www.youtube.com/watch?v=hBtVGwuJzpk