Medienkritik: Apokalyptische KI‑Warnungen auf dem Prüfstand
Wer profitiert vom Alarmismus der Branche?
Apokalyptische Angst vor KI: Wer schürt sie, welche Motive könnten sich dahinter verbergen?
Same procedure as every year. Oder besser: Wie alle paar Monate, denn erneut wird vor angeblich apokalyptischen Folgen der KI-Entwicklung gewarnt. Über das Internet und seine Tendenz, als Filterblasen- und Fear-Porn-Verstärker zu dienen, mithin das massenhafte Kopieren und Plagiieren von alarmistischem Clickbait und anderem aufmerksamkeitsheischenden “Content” auf Plattformen wie YouTube braucht kein Wort mehr verloren zu werden – insofern wäre schon eine Erklärung gefunden für die derzeit “viral gehenden” Warnungen vor einer SkyNet-Alien-Superintelligenz aus welcher Dimension auch immer, die kurz davorsteht, den Planeten gründlichst zu entvölkern. Der übliche Quatsch.
Doch auch Silicon-Valley-Prominenz warnt mal wieder eindringlich: Wenn jetzt nicht drakonisch reguliert würde, hätte die Spezies Mensch ausgedient. Kaum nötig zu erwähnen, dass die möglichen Motive dahinter eine genauere Betrachtung verdienen. Denn es könnten andere Beweggründe dahinterstecken als die öffentlich herausposaunten.
Was schnell auffällt: Die Warnungen werden von Leuten ausgesprochen, die zugleich an genau den Maschinen und ihrer Software arbeiten, die das angeblich drohende Armageddon herbeiführen. Anthropic-Chef Dario Amodei fordert in seinem jüngsten Beitrag vom September 2026, die Entwicklung leistungsfähiger KI zu verlangsamen. Er befürchtet, ein entsprechend leistungsfähiger Schwarm von KI-Agenten könnte binnen sechs bis zwölf Monaten das Internet mit einem dauerhaften Netz gekaperter Rechner überziehen. Bereits 2023 hatten unter anderem Sam Altman (OpenAI), Demis Hassabis, Geoffrey Hinton und Yoshua Bengio einen Aufruf unterzeichnet, der das Aussterberisiko durch KI gleich neben Atomkrieg und Pandemien stellte. Aber wie viel davon ist begründete Vorsorge, wie viel Spekulation, und vor allem: Wem nützt diese arg dramatische Erzählung?
Wer Technologien entwickelt, die ein mögliches Gefahrenpotenzial in sich bergen, kann durchaus ehrlich vor ihnen warnen. Ein Forscher, der wegen seiner Bedenken kündigt, verdient eine andere Betrachtung als ein Vorstandschef, der zugleich Investoren überzeugen muss. Auch wäre es reichlich bequem, jede unangenehme Prognose einfach zur Propaganda zu erklären. Allerdings gilt ebenso: Fachkenntnis macht niemanden interessenlos. Und wenn ausgerechnet die Hersteller einer bestimmten Technik erklären, sie könne die Menschheit vernichten, darf man schon fragen, warum gerade ihnen die Gestaltung unserer technischen Zukunft anvertraut werden sollte.
Denn eine solche Warnung enthält eine bemerkenswerte Werbebotschaft. Sinngemäß: Unsere Produkte sind so außerordentlich mächtig, dass Gott vor Neid platzt. Man stelle sich einen gewöhnlichen Softwarehersteller vor, der seine Programme derart anpreist - er würde vermutlich ausgelacht. Bei KI hingegen kann selbst die düsterste Prognose den Eindruck verstärken, hier entstünde etwas unwiderstehlich Großes, an dem künftig niemand vorbeikommt. Angst und Fortschrittsbegeisterung müssen sich nicht gegenseitig ausschließen. Beide können die Vorstellung nähren, diese Industrie sei der bestimmende Akteur der kommenden Epoche.
Nur ist eine eindrucksvolle Präsentation eben noch keine belastbare Vorhersage. Die Princeton-Forscher Arvind Narayanan und Sayash Kapoor kritisieren, dass Prozentangaben zum KI-bedingten Menschheitsuntergang eine Genauigkeit suggerieren, die ihre Grundlagen gar nicht hergeben. Es fehlen vergleichbare Fälle und hinreichend belastbare Modelle, aus denen sich solche Zahlen ableiten ließen. Daraus folgt zwar keine Garantie absoluter Sicherheit (die es im IT-Bereich generell nicht gibt), aber auf jeden Fall, dass subjektive Einschätzungen auch als solche behandelt werden sollten. Eine Zahl wird nicht dadurch zum belastbaren Messergebnis, dass einige berühmte Programmierer sie nennen.
Ebenso müßig ist vorerst die Frage, ob Computer eines Tages Bewusstsein entwickeln. Bisher haben sie jedenfalls keines – nein, auch KI nicht – und um potenziell gefährliche Folgen zeitigen zu können, braucht eine Software weder ein bewusstes Ich noch einen Vernichtungswillen. Es kann genügen, ihr ungeeignete Ziele, zu weitreichende Zugriffsrechte und zu wenig Kontrolle mitzugeben. Gerade deshalb müsste eine vernünftige Debatte konkret werden: Welche Fähigkeiten wurden unter welchen Bedingungen nachgewiesen? Was war ein künstlich zugespitzter Versuch, was ein tatsächlicher Vorfall? Und welche unabhängige Prüfung bestätigt die Darstellung des Herstellers? Zwischen einem beunruhigenden Testergebnis und der bevorstehenden Unterwerfung der gesamten Menschheit liegt schließlich eine Menge an noch zu leistender Beweisarbeit.
Hier setzt Kit Knightly vom “Off Guardian” in seiner lesenswerten Artikelreihe über das „Rogue AI“-Narrativ an. Er vermutet hinter der Häufung solcher Katastrophenmeldungen eine Kampagne, die neue Eingriffe in die öffentliche Kommunikation vorbereiten soll. Seine zentrale Frage verdient Aufmerksamkeit: Wer entscheidet künftig, welche Beiträge als menschlich und glaubwürdig gelten und welche als “Maschinenmüll” aussortiert werden? Knightly befürchtet, entsprechende Kennzeichnungen könnten zur Diskreditierung unbequemer Stimmen dienen; auch einen auf diesem Wege forcierten digitalen Identitätsnachweis bringt er als mögliche Folge ins Spiel.
Konkreter wird ein möglicher Interessenkonflikt beim Thema Regulierung. Aufwendige Zulassungen und Prüfverfahren können kleinere Anbieter stärker belasten als Konzerne mit eigenen Rechtsabteilungen. Narayanan und Kapoor warnen deshalb vor einer Lizenzpolitik, die den etablierten Unternehmen zusätzlichen Einfluss verschafft, während sie kleinere aus dem Markt zu drängen versucht. Amodeis aktueller Vorschlag enthält durchaus sinnvolle Elemente, etwa externe Prüfer mit weitreichendem Zugang. Er sieht aber auch Absprachen zwischen führenden Unternehmen vor und spricht ausdrücklich von staatlicher Vermittlung oder begrenzten Ausnahmen von kartellrechtlichen Beschränkungen. Gerade in solchen Fällen sollte natürlich genau hingeschaut werden: Wer schreibt die Standards? Wer darf mitreden? Sicherheit darf schließlich nicht zum Etikett werden, unter dem Marktführer die Bedingungen für ihre Konkurrenz festlegen.
Whitney Webb wiederum beschreibt in ihrem Artikel „Das Pangram-Paradox: Das Problem mit KI, die andere KIs »erkennt«“ eine verwandte Entwicklung auf dem Medienmarkt. KI produziert immer mehr Texte; eine weitere KI soll dann feststellen, welche davon menschlichen Ursprungs sind. Webb sieht darin eine große Gefahr, dass das Vertrauen des Publikums in die Authentizität von Texten vom Autor und seinen überprüfbaren Quellen auf einen technischen Schiedsrichter verlagert wird. Besonders problematisch findet sie, dass Autoren bereits ihre Schreibweise verändert haben, um bei solchen Prüfungen nicht verdächtig zu wirken. Man muss sich das einen Moment vorstellen: Menschen vermeiden bestimmte Formulierungen, weil Maschinen gelernt haben, wie Menschen zu formulieren. Die Sorge vor dem Urteil der Software würde somit menschliches Schreiben “disziplinieren”.
Des Weiteren ist die Pangram-Software zum einen bereits dadurch negativ aufgefallen, nachweislich von Menschen verfasste Texte als KI-Schöpfung zu deklarieren, und zweitens stellte sich heraus, dass derselbe Text bei mehrfachen Durchläufen abwechselnd Positiv- und Falschpositivmeldungen generierte. Es kann also durchaus sein, dass ein Text einmal als KI-Produkt gekennzeichnet wird, bei einer zweiten Prüfung aber als unverdächtig.
Pangram erklärt inzwischen ausdrücklich, KI-bearbeitete Passagen von vollständig generierten unterscheiden zu können. Das Unternehmen beschreibt sein Verfahren als Analyse sprachlicher Muster und wirbt mit sehr niedrigen Fehlerraten. Ein solches Verfahren kann hilfreich sein. Ein unfehlbarer Herkunftsnachweis wird daraus aber eben nicht. Und vor allem: Selbst eine korrekte Herkunftsbestimmung sagt noch nichts darüber aus, ob eine Behauptung wahr ist. Menschen können Unsinn schreiben, maschinell unterstützte Texte zutreffende Informationen enthalten. Wer diese Fragen vermischt, ersetzt Quellenkritik durch ein Gütesiegel.
Das Hauptaugenmerk sollte also – was in diesem Bereich ohnehin die goldene Regel ist – auf der Substanz bzw. dem Wahrheitsgehalt der Informationen liegen, nicht nur auf der Urheberschaft. Anders ausgedrückt: Es nützt niemandem zu wissen, dass ein Text zwar von einem Menschen verfasst wurde, dieser sich aber beispielsweise als Desinformant herausstellt. Menschliche Urheberschaft allein ist kein Beweis für “Zweifelsfreiheit”. Gerade im heutigen Internet nicht, in dem – welch eine grandiose Ironie, übrigens – genau dieselben “Big Tech”- oder Silicon-Valley-Oligarchen, die ihren Mitmenschen eine automatisierte maschinelle Prüfung von Texten per KI schmackhaft machen wollen, tonnenweise Gatekeeper, politische Influencer, Agitatoren und Propagandisten aufgebaut und mit viel Geld künstlich gepampert und “reichweitenstark” gemacht haben, weil sie Narrativkontrolle anstreben. Wie heißt es doch so schön: Veralbern kann ich mich alleine.
Das wirtschaftlich reizvolle Muster liegt jedenfalls offen zutage: Mit der Verbreitung generativer KI entsteht ein zusätzlicher Markt für deren Überwachung und Bewertung. Dazu braucht es keinen geheimen Gesamtplan. Es genügen Unternehmen, die Absatzmöglichkeiten erkennen, Plattformen, die ihre Prüfkosten senken wollen, und Institutionen, die gern eine scheinbar eindeutige Kennzeichnung hätten. Kritisch wird es vor allem dort, wo ein Wahrscheinlichkeitsurteil (“Könnte von KI erzeugt worden sein”) ohne nachvollziehbare Begründung zum Ausschlussgrund wird. Ein Autor, dessen Beitrag fälschlich als maschinell erzeugt gilt, braucht dann eine wirksame Möglichkeit zum Widerspruch. Die Versicherung des Anbieters, sein System arbeite außerordentlich zuverlässig, hilft ihm wenig, solange es Fehlerquoten gibt. Oder vielleicht sogar politisch motivierte.
Zugleich bindet die große Untergangserzählung natürlich Aufmerksamkeit, die bei handfesteren Fragen fehlen kann. Zum Beispiel: Wer kontrolliert die Daten? Wer entscheidet über den Einsatz in Behörden und Betrieben? Wer trägt die Verantwortung, wenn automatisierte Entscheidungen Menschen schädigen? Narayanan und Kapoor schlagen deshalb vor, KI als eine gesellschaftlich eingebettete Technik zu betrachten, deren Verbreitung von Organisationen, politischen Entscheidungen und praktischen Grenzen abhängt. Das klingt zwar weniger spektakulär als die Ankunft einer allmächtigen Superintelligenz aus der neunten Dimension. Es ermöglicht aber, sinnvoll darüber zu diskutieren, ohne die gesamte Zukunft einem Kreis angeblich unersetzlicher Technologiepriester zu überantworten.
Fazit: Weder muss jede Warnung ungeprüft verworfen werden, noch sollte man deshalb den Doomsday-Predigern aus dem Silicon Valley gleich die Schlüssel zum nächsten Kontrollsystem aushändigen. Erforderlich wären überprüfbare Angaben, unabhängige Forschung und Regeln, die konkrete Schäden begrenzen und Verantwortung zuordnen. Ebenso erforderlich ist das Recht, den vorgeschlagenen „Lösungen“ widersprechen zu können. Wenn Ihnen jemand erklärt, die Technik werde bald zu mächtig für uns Menschen, sollten Sie sehr genau darauf achten, welche Macht er unter Berufung auf diese Gefahr für sich selbst beansprucht. Die Frage, wer uns vor der KI schützt, führt dann unweigerlich zu einer weiteren, nämlich einer der ältesten und wichtigsten überhaupt, wenn es um solche Belange geht: Wer schützt vor den Beschützern, wer kontrolliert die Kontrolleure?
Bis nächste Woche.
Kommentare
Die Kommentarfunktion (lesen und schreiben) steht exklusiv nur registrierten Benutzern zur Verfügung.
Wenn Sie bereits ein Benutzerkonto haben, melden Sie sich bitte an. Wenn Sie noch kein Benutzerkonto haben, können Sie sich mit dem Registrierungsformular ein kostenloses Konto erstellen.