Die Geschichte von der sich verselbständigenden KI: Wesentliche Botschaft: niemand ist verantwortlich
Qualifizierung für die Politik bestanden – wir stellen die Katastrophe durch Regulierung sicher
von Christian Paulwitz drucken
Die Geschichte einer "ausbrechenden" Künstlichen Intelligenz (KI), die andere Systeme „gegen den Willen“ ihrer Erschaffer angreift, machte die letzten drei Wochen nun schon in mehreren Ausführungen die Runde durch das Medienpropagandadorf. Unterschwellig wird dann immer gerne mit der Vorstellung einer „Verselbständigung“ gespielt – eine Maschine, die bewusst handelt und Entscheidungen trifft, und viele springen darauf an.
Die erste Geschichte war die von OpenAI. Zunächst hieß es, ein KI‑Agent habe sich unter Ausnutzung einer Sicherheitslücke Zugang zum Internet verschafft und das Sicherheitssystem einer anderen KI‑Firma – Hugging Face – gehackt und überwunden. Das Problem sei mittlerweile gelöst und man arbeite zusammen. Als ich die Nachricht das erste Mal las, natürlich garniert mit den reißerischen Andeutungen einer sich verselbständigenden KI, fiel mir schon die Kinnlade runter, weil ich mir schon aus den bruchstückhaften Informationen dachte: da baut einer richtigen Mist und macht daraus eine Marketing‑Kampagne – so dreist muss man erst mal sein.
Nehmen wir einmal gutwillig an, der KI‑Agent hat etwas gemacht, was seine Entwickler nicht wollten. Das kann passieren; vermutlich hat Ihr Computer auch schon einmal etwas gemacht, was Sie nicht wollten. Aber Spaß beiseite, das passiert natürlich auch Systementwicklern immer wieder. Vielleicht erinnern Sie sich an die Zeit, in der Automobile noch eine mechanisch von Hand zu betätigende Feststellbremse hatten. Irgendwann kam man auf die Idee, sie durch eine elektronisch gesteuerte Bremse zu ersetzen, die automatisch anzieht, wenn man das Fahrzeug abstellt und den Motor ausmacht, längere Zeit im Stand auf dem Bremspedal steht oder die man auch per Knopfdruck betätigen kann, wenn man zum Beispiel am Hang an der Ampel hält. Wenn dann der Fahrer wieder losfahren will, soll das Fahrzeug möglichst selbständig „erkennen“, dass die Bremse wieder gelöst werden kann, ohne dass der Fahrer erst daran denken und nach dem Lösemechanismus fingern muss.
Wie erkennt man, dass der Fahrer losfahren will? – Er gibt Gas. Wie erkennt man das? Der Motor beschleunigt seine Drehzahl aus dem Standgas heraus. So jedenfalls dachte sich das seinerzeit ein größerer deutscher Automobilhersteller, bis in der Praxis einmal folgende Situation eingetreten ist: Jemand fährt nach Hause und hält sein Auto auf der Steigung vor seiner Garage, lässt den Motor laufen, um auszusteigen und das Garagentor zu öffnen. Dabei lässt er die Tür offen, und da es ein etwas wärmerer Tag war, steigt im Innenraum die Temperatur, und die Klimaanlage zieht einen höheren Strom. Das wiederum setzt die Lichtmaschine unter Last, und der Motor erhöht die Drehzahl, um die Leistung zu liefern. Als das Garagentor offen ist, dreht sich der Fahrer um und sieht sein Fahrzeug auf sich zu fahren.
Nach meiner Erinnerung konnte damals der Fahrer noch zur Seite springen, und es kam glücklicherweise nicht zu einem Personenschaden. Aber jetzt stellen Sie sich einmal vor, die Nachricht wäre seinerzeit unter Andeutungen medial verbreitet worden, die Entwickler wären beeindruckt gewesen, dass das Fahrzeug sich auf diese Weise weiterentwickelt hätte, und man werde jetzt zusätzliche Sicherheitsmechanismen einziehen, damit das künftig nicht mehr passieren könne. Dabei ist nur das passiert, was im System bewusst so angelegt war, und die fatale Situation wäre durchaus nicht so schwer vorhersehbar gewesen. Dass dies nicht systemisch abgefangen wurde, war einfach fahrlässig. Wird man das künftig nicht mehr so sehen, wenn irgendwo im System Künstliche Intelligenz im Einsatz ist?
Es kommt aber im Fall von OpenAI und Hugging Face noch viel besser. Der KI‑Agent war darauf trainiert, Sicherheitslücken zu finden und auszunützen. Nach Darstellung wurde er in einer abgegrenzten Umgebung getestet (Sandbox), die so abgegrenzt dann nicht war, um die Lücke zu finden und den Zugang zum Internet. Dabei hatte man offenbar über Tage hinweg ohne Alarmierungsmechanismus den Agenten mal machen lassen, ohne die Internetverbindungen zu überwachen. Ich bin weder IT‑ noch KI‑Experte, aber ich bin nicht technisch beeindruckt, wenn ein potenziell gefährliches System das tut, wozu es aufgesetzt wurde, aber seine Entwickler, die es testen, es nicht überwachen, damit es keinen Schaden anrichtet.
Die Pointe, über die deutlich leiser und eher am Rande berichtet wird: Hugging Face wehrte sich seinerseits gegen das Hacking des OpenAI‑Agenten ebenso mit KI‑Agenten, unter anderem auch mit einem System von OpenAI – erfolglos. Abgewehrt wurde der Angriff schließlich mit einem OpenWeight‑Modell chinesischer Herkunft, also einem teiloffenen System. Passt irgendwie nicht so richtig in die Marketing‑Kampagne rein.
Wenn der eine in den Schlagzeilen ist, darf der andere natürlich nicht zurückstehen. Eine Woche nach dem ersten „Zwischenfall“ meldet auch Wettbewerber Anthropic, sein KI‑Agent habe selbstständig ein Unternehmen angegriffen. Wer als zweiter dran ist, muss natürlich noch einmal was drauflegen, und so sind es dann insgesamt drei Vorfälle geworden. Erst einmal. Zuletzt mit Phishing‑Mails und gefälschten Identitäten.
Wissen Sie, was ich glaube, warum im Mediendrehbuch das alles über eine größere Zeitspanne am Kochen gehalten und was als Konsequenz gefordert werden wird? – Regulierung. Vor allem in Europa, natürlich, wo es keine großen KI‑Player gibt und das auch so bleiben soll, aber auch in den USA. Wer an der Spitze steht und einen guten Draht zur Regierung pflegt, kann auf Regulierung Einfluss nehmen und so die Einstiegshürde für künftige Wettbewerber nach oben ziehen. Schließlich gehört man selbst zu den Guten und kooperiert. Das wirklich Beängstigende sind die Aussichten machtvoller Hacking‑Angriffe sich selbst optimierender Systeme, denen man nur mit entgegengestellten KI‑Agenten begegnen kann, die auf anderen Modellen beruhen.
Kommentare
Die Kommentarfunktion (lesen und schreiben) steht exklusiv nur registrierten Benutzern zur Verfügung.
Wenn Sie bereits ein Benutzerkonto haben, melden Sie sich bitte an. Wenn Sie noch kein Benutzerkonto haben, können Sie sich mit dem Registrierungsformular ein kostenloses Konto erstellen.