Freiheit: KI formt Denken und unterwandert Öffentlichkeit
Automatisierte Kuratierung ersetzt öffentliche Debatte
Anmerkungen zu Asma Mhalla: „Neurocamps“ gibt es längst
Die Warnung der französischen Politikwissenschaftlerin und Ex-Investmentbankerin Asma Mhalla, über deren Prognosen für die sehr nahe Zukunft die „Welt“ am 11.7. berichtete, kommt strenggenommen viel zu spät. Wichtig ist sie trotzdem, weil sie den Menschen noch einmal in Erinnerung rufen kann, was auf dem Spiel steht: Die Freiheit. Genauer: Die geistige.
Die ist zwar nicht erst seit gestern bedroht, sondern steht schon seit Langem unter Beschuss – auch wenn dieser sich in jüngster Zeit durch die massenhafte Befragung des künstlichen Intelligenzorakels von – nein, nicht Delphi, sondern Nvidia – rapide beschleunigt hat. Mhalla, die mit ihren Aussagen in Frankreich für einiges Aufsehen sorgte, spricht etwas an, das im englischsprachigen Raum schon seit mehreren Jahren ausführlich diskutiert wird: Den korpokratisch-korporatistischen Wildwuchs, die zunehmende Verschmelzung von, wie es im Artikel der „Welt“ heißt, „Big State und Big Tech“.
„Der Kampfschauplatz: Das menschliche Gehirn. Das Ziel: Unterwerfung“ (Die „Welt“, 12.7.2026, „Es wird Neurocamps zur Unterwerfung der Unerwünschten geben“).
Ich widerspreche sofort: Nein, es wird nicht Neurocamps (Plural) geben. Sondern nur eines: Ein globales. Ja, der „Kampfschauplatz“ ist das menschliche Gehirn. Aber das Ziel ist nicht direkte, offene Unterwerfung, sondern eine viel subtilere, weichere, leichter erträgliche, da gar nicht erst erkannte Form der „Unterwerfung“: Es geht nicht darum, den Willen von Menschen zu brechen – dies wäre zu aggressiv und würde schnell große Widerstandspotenziale wecken – sondern ihn zu formen. Durch ein stetiges Aushöhlen des Steins mit unzähligen Tropfen: Den Tropfen sorgfältig kuratierter Informationen. In früheren Zeiten war dies nicht umsetzbar – der Arbeits- und Personalaufwand wäre zu groß gewesen, und natürlich hätte jederzeit die Gefahr bestanden, dass sich in einem der Beamten des „Wahrheitsministeriums“ vielleicht doch ein Gewissen regt, um als Whistleblower aufzutreten.
Heute ist die Automatisierung der Kuratierung mittels hochleistungsfähiger KI-Systeme, hinter denen eine historisch beispiellose Rechenpower steht, rund um den Globus möglich. In Echtzeit. Keine „Wahrheitsministerialbeamten“ mehr nötig. Winston ist kein Mensch mehr, sondern ein Algorithmus, der die verfügbaren Daten programmgemäß abarbeitet und auftragsgemäß mit Warnungen versieht, sollten sie „kontrovers“, „umstritten“ oder „verschwörungstheoretisch“ sein. Oder? Nein. Warnungen sind dann nicht mehr nötig. Die entsprechenden Informationen werden gar nicht erst präsentiert. Sie lassen sich totenstill ausfiltern. Das Publikum bekommt sie gar nicht mehr zu Gesicht. Beim Winston-Algorithmus besteht keinerlei Gefahr, dass er sich in Julia verliebt, aus der Reihe tanzt und in Raum 101 landet. Er baut ihn selber auf, Codezeile für Codezeile, ohne ethische Zweifel.
Die „Neurocamps“, wie Mhalla sie nennt, gibt es außerdem längst. Gewissermaßen. Sie tragen wohlklingende Namen: „Schul- und Bildungssystem“ zur Aufzucht „mündiger“, „aufgeklärter“ Bürger (lies: funktionstüchtiger Steuerdrohnen). „Freie Presse“. Und heute vermehrt: „Alternative Medien“ – das Internet wurde regelrecht „aufgekauft“, Meinungsmacht lässt sich heute einkaufen. Auch dort hat die Kuratierung Ausmaße angenommen, die, ist man das erste Mal damit konfrontiert, gefährlich demoralisierend wirken kann. Als ich vor einiger Zeit mehrere alternative Journalisten im Ausland anschrieb, weil die Situation in Deutschland mittlerweile unerträglich ist und ich um Ratschläge bitten wollte, wie man dem rasanten Aufbau und dem krebsartigen Wachstum der MAM-Kartellgeschwüre (MAM, Mainstream Alternative Media) entgegenwirken könnte, erhielt ich mitunter ernüchternde Antworten. Einer dieser Journalisten, David Hughes, antwortete mir desillusioniert und ein wenig defätistisch: ‚I have the feeling that most of alternative media today consists either of gatekeepers or grifters‘ („Ich glaube, dass der Großteil der heutigen Alternativmedien entweder aus Gatekeepern oder Betrügern besteht“). Seine Antwort war kein Einzelfall. Sehr viele Menschen haben dieses „Gefühl“, das keines ist, sondern schlicht Fakt.
Der „Freiheitskorridor“ wird auch im einstmals als Befreiung von etablierten oder „eingesessenen“ Strukturen gefeierten Internet immer enger. Und auch dort werden natürlich ganze Legionen KI-gesteuerter Accounts und Bots auf das Publikum losgelassen: Als die Trump-Administration ankündigte, „UFO-Akten“ veröffentlichen zu wollen, wurden Netzwerke wie X unermüdlich von automatisierten Tweets mit absurd-abstrusen, minderwertigen Fake-„Inhalten“ zum Thema überschwemmt, als hätten Alan Smithee, Ed Wood und Roger Corman einen Pakt geschlossen, täglich mindestens ein Dutzend SciFi-C-Movies zu produzieren. Die Informations- bzw. Narrativkontrolle nimmt auch und gerade im Onlinebereich weiter zu, und zwar rasant.
„Neurocamps“ noch und nöcher: „Unsere“ Demokratie. „Die Wissenschaft“ ist sich „einig“. Zentralbanken sind „Währungshüter“. Schulden bzw. Kredite sind „Sondervermögen“. Stimmt zwar alles nicht, kann bei unermüdlicher Wiederholung aber trotzdem eine „nachhaltige“ kognitive und psychologische Wirkung entfalten. Das ist eine der Schattenseiten von KI: Man wird in Zukunft kaum noch Menschen benötigen, um die digitalen Wachtürme dieser „Camps“ zu bemannen. Lässt sich alles algorithmisieren, oder wie James Corbett es ausdrückte: Die „Algokratie“ hat in „Künstlicher Intelligenz“ ihr wirkmächtigstes Werkzeug.
Welche Konsequenzen ein zu unkritischer Umgang mit der neuen Technologie haben könnte, zeichnet sich bereits ab. Die Warnungen sind zwar nicht neu – sie werden seit Jahrzehnten ausgesprochen – aber wie so oft, gelten Warner natürlich oft als „Kulturpessimisten“ oder „Schwarzseher“. Wie sich in jüngster Zeit herausstellte, zu Unrecht.
„Studenten lesen Klassiker nur noch in KI-Zusammenfassungen, und selbst in Fachaufsätzen tauchen immer mehr KI-Halluzinationen auf. Das hat kognitive Folgen – wie ein schockierendes MIT-Experiment nachweist.“ (Die „Welt“, „Wenn die KI das Gehirn abschaltet“, 10.7.2026)
In einem Artikel auf der Webseite „Forschung & Leere“ vom 23.1.2024 („Entlastet die KI das Gehirn zu sehr, baut es ab“) hieß es dazu:
„Psychologe und Hirnforscher Peter Gerjets vom Leibniz-Institut für Wissensmedien in Tübingen geht davon aus, dass ChatGPT und ähnliche Angebote einen großen Einfluss auf das Bildungswesen haben werden. Eine sinnvolle, kompetente Nutzung sei dabei keineswegs ein Selbstläufer. »Es darf nicht passieren im Bildungsprozess, dass der aktive Lernprozess an ChatGPT ausgelagert und das Gehirn nicht gefordert wird«, sagt der Bildungswissenschaftler zum Internationalen Tag der Bildung am 24. Januar. »Es ist wichtig, was im Kopf passiert und was als echte Lernleistung herauskommt. Ob das mit oder ohne Unterstützung von GPT passiert, ist letztlich nicht entscheidend.«
„Business Punk“, 10.7.2026, „Rund 130 Millionen US-Amerikaner lesen schlechter als Sechstklässler: KI schuld?“:
„Künstliche Intelligenz kaschiert ein massives Problem in der Bildung: Rund 130 Millionen US-Amerikaner lesen unter Sechstklässler-Niveau. KI-Tools lassen sie produktiv wirken – bis echte Entscheidungen gefragt sind. Experten warnen vor ‚kognitiver Kapitulation‘. Schätzungen auf Basis der PIAAC-Daten zufolge haben rund 130 Millionen erwachsene US-Amerikaner Lesekompetenzen unter dem Niveau von Sechstklässlern. 43 Millionen beherrschen Lesen, Schreiben und Rechnen nicht über Drittklässler-Level. Künstliche Intelligenz macht das Problem unsichtbar – und damit gefährlicher. [...] Forscher nennen es ‚cognitive surrender‘ – kognitive Kapitulation. Beschäftigte übernehmen KI-Outputs, ohne sie zu hinterfragen oder zu verstehen. Das Problem: Solange Routineaufgaben anstehen, funktioniert das System. Sobald Urteile gefällt, Probleme gelöst oder KI-Antworten bewertet werden müssen, kollabiert die Fassade. Stephen Reder, emeritierter Professor für angewandte Linguistik an der Portland State University, stellt klar: KI werde die Nachfrage nach höheren Grundkompetenzen steigern, nicht senken. Amanda Bergson-Shilcock von der National Skills Coalition warnt: Wenn KI rote Warnlichter für eine Bildungskrise aufleuchten lässt, existiert diese Krise definitiv.“
Wie Mark Keenan, ehemaliger Technologieberater der UN, es ausdrückte:
„Es gab eine Zeit, in der Menschen ihre eigenen Worte sprachen – unbeholfen, leidenschaftlich und lebendig. Wir diskutierten. Wir widersprachen einander. Wir suchten nach Sinn inmitten des Nebels der Missverständnisse, und die Reibung erzeugte manchmal Licht. Heute sprechen Millionen Menschen mit Maschinen, die in ihrer Sprache antworten – flüssiger, schneller, klarer. Und diese Maschinen lernen, wie Menschen denken, indem sie dem Rauschen lauschen. Die Menschheit trainiert ihr eigenes Simulacrum – innerhalb der Echokammer der KI. Die Matrix spricht mit der Matrix. […] Künstliche Intelligenz ist kein Zufall. Sie ist der neueste Ausdruck einer Weltanschauung, die Information mit Weisheit und Kontrolle mit Fortschritt verwechselt. Diese Weltanschauung – der technokratische Traum – sagt uns, dass die Welt eine Maschine ist, die optimiert werden muss. Menschen werden zu Datenpunkten. Sprache wird zu Inhalt. Gedanken werden zu einer Ressource, die es zu nutzen gilt. KI ist lediglich ihr neuester Prophet: eine Maschine, die gebaut wurde, um die Überzeugungen ihrer Schöpfer widerzuspiegeln. […] Jedes Mal, wenn wir einen Algorithmus entscheiden lassen, was wahr und was ‚gewiss‘ ist, entfernen wir uns ein Stück weiter von der inneren Stimme […] – der Fähigkeit zur Unterscheidung. Der wahre Wettstreit findet nicht zwischen Mensch und Maschine statt, sondern zwischen Bewusstsein und Konformität. Die Gefahr besteht nicht darin, dass die KI erwachen wird. Die Gefahr besteht darin, dass wir einschlafen werden.“ (Mark Keenan, „Die Matrix spricht mit der Matrix: Wie KI das menschliche Denken ersetzt“, 17.11.2025).
Im Prinzip scheint die KI also in genau dasselbe Entwicklungsmuster zu fallen wie einstmals das Internet, dem auch bescheinigt wurde, die „Verdummung“ zu beschleunigen: Informationen, so lautete einer der meistgehörten Kritikpunkte, würden dort nur noch in „Häppchenform“ geliefert, die Aufmerksamkeitsspannen würden verkürzt, und wenn Texte das eigene Denken zu sehr beanspruchen und daher als zu belastend und unangenehm empfunden werden, würden sie einfach „weggeklickt“, sodass am Ende nur noch die seichtesten, oberflächlichsten, leichtverdaulichsten übrigblieben.
Ganz falsch war diese Kritik nicht: Das Konsumverhalten, was Informationen betrifft, ist tatsächlich in eine Schieflage geraten. Allerdings lässt sich das auch nicht verallgemeinern: Was zählt – so wie immer – ist der Umgang des Einzelnen damit. Dort fängt es an, und daran sollte man immer wieder erinnern. Es gibt keinen Grund, einen Fatalismus zu pflegen, der die individuelle Verantwortung einfach übergeht und dadurch eine gefährliche „Schicksalhaftigkeit“ impliziert, wo es keine gibt. Das gilt auch für KI.
Bis nächste Woche.
Kommentare
Die Kommentarfunktion (lesen und schreiben) steht exklusiv nur registrierten Benutzern zur Verfügung.
Wenn Sie bereits ein Benutzerkonto haben, melden Sie sich bitte an. Wenn Sie noch kein Benutzerkonto haben, können Sie sich mit dem Registrierungsformular ein kostenloses Konto erstellen.