KI verändert die wissenschaftliche Praxis

Forschung: KI verändert die wissenschaftliche Praxis

Von Proteinstrukturen bis zu Verantwortungsfragen

von Axel B.C. Krauss drucken

Von Saint-Simon zur Künstlichen Intelligenz, Teil 2: Chancen und Risiken von KI

Im ersten Teil (letzte Woche) wurde näher auf die Frage eingegangen, wie sich der jahrhundertealte Traum von einer wissenschaftlich “berechenbaren” und technisch steuerbaren Gesellschaft bis in die digitale Gegenwart entwickelt hat. Es wäre allerdings ein Fehler, die vergleichsweise noch recht junge Technologie der künstlichen Intelligenz ausschließlich unter dem Gesichtspunkt von Überwachung, Kontrolle und technokratischer Macht zu betrachten. Dieselbe Technologie, die staatlichen Institutionen und privaten “Big Data”- und “Big Tech”-Konzernen bislang ungekannte Möglichkeiten der Datensammlung und -analyse eröffnet, hat innerhalb weniger Jahre nämlich auch Leistungen vollbracht, die zu den beeindruckendsten wissenschaftlichen Entwicklungen unserer Zeit gehören.

Deshalb sollte man sich von den z. B. auf YouTube in großer Zahl veröffentlichten, alarmistischen “Doomsday”-Videos auch nicht kirre machen lassen. Regelmäßig erscheinen solche apokalyptischen Warnungen, denen zufolge die Menschheit entweder kurz vor der völligen Versklavung oder gar Auslöschung durch KI stünde. Solche kühnen bis wüsten Behauptungen unterstellen einfach – darin sind sie rein spekulativ –, KI verfüge bereits über ein eigenes Bewusstsein und schmiede wie ein Bond-Bösewicht aus Silizium Pläne gegen die Spezies Homo sapiens. In den allermeisten Fällen geht es dabei, wen wundert’s, um möglichst aufsehenerregende Videotitel, kurz: Clickbait. Beschäftigt man sich eingehender und seriöser mit der Thematik, stellt man schnell fest, dass es für solche Warnungen tatsächlich gar keinen Anlass gibt. Nein, KI ist nicht “Skynet” aus James Camerons “Terminator”. Mal ganz zu schweigen von der auf wissenschaftlicher Ebene bis heute noch nicht geklärten Frage, was genau “Bewusstsein” eigentlich ist. Solange diese Frage nicht vollständig beantwortet werden kann, sollte man es lieber Hollywoods Drehbuchautoren und Regisseuren überlassen, actionlastige dystopische Szenarien zu inszenieren.

Was die positiven Aspekte betrifft, tritt gerade in der naturwissenschaftlichen Forschung die produktive Seite der KI besonders deutlich hervor. Ihre Stärke besteht dabei weniger in einem mysteriösen „künstlichen Bewusstsein“ als in der Fähigkeit, gigantische Datenmengen nach Strukturen zu durchsuchen, komplexe Zusammenhänge zu modellieren und zu untersuchen und dann Lösungen vorzuschlagen, die für Menschen oder klassische Rechenverfahren nur schwer zugänglich sind.

Eines der aufsehenerregendsten Beispiele stammt aus der Molekularbiologie. Proteine gehören zu den Grundbausteinen des Lebens. Ihre Funktion hängt ganz entscheidend von ihrer dreidimensionalen Struktur ab. Aus der Abfolge ihrer molekularen “Bausteine”, den Aminosäuren, zuverlässig vorherzusagen, welche räumliche Gestalt ein Protein annimmt, galt jahrzehntelang als eines der großen Probleme der Biologie.

Mit der KI-basierten Software “AlphaFold2” der Firma “DeepMind” gelang hier ein spektakulärer Durchbruch: Das System erreichte beim internationalen CASP14-Wettbewerb für viele Proteine eine Genauigkeit, die sich den auf experimentellem Wege ermittelten Strukturen annäherte. Eine im Jahre 2021 in der Zeitschrift “Nature” veröffentlichte Arbeit beschrieb das System als einen Ansatz, der in einer Mehrheit der untersuchten Fälle Proteinstrukturen mit annähernd experimenteller Genauigkeit bestimmen konnte. Kurz darauf wurde AlphaFold auf fast alle menschlichen Proteine angewandt.

Die Weiterentwicklung “AlphaFold3” erzielte 2024 noch größere Fortschritte. Das System beschränkt sich nicht mehr auf einzelne Proteine, sondern kann Wechselwirkungen von Proteinen mit DNA, RNA, kleinen Molekülen und anderen biologisch relevanten Komponenten modellieren. Damit nähert sich KI einem der zentralen Probleme der Biologie: nicht nur die Bausteine des Lebens zu beschreiben, sondern deren Interaktionen vorherzusagen. Die Bedeutung solcher Arbeiten reicht weit über die Grundlagenforschung hinaus, denn Proteinstrukturen spielen bei Krebs, Infektionskrankheiten und zahlreichen genetisch bedingten Erkrankungen eine große Rolle. Besser zu verstehen, wie Proteine aufgebaut sind und mit Wirkstoffen interagieren, kann die Entwicklung neuer Medikamente wesentlich erleichtern. “AlphaFold3” gelang es tatsächlich nicht nur, wirksamere chemische Verbindungen für Medikamente in einem Zeitraum von wenigen Wochen zu entdecken – das menschliche Forscherteam, das die Ergebnisse begutachtete, hätte dafür nach eigener Aussage fast zehn Jahre (!) oder gar noch länger gebraucht – sondern auch, neue Synthesewege für diese Verbindungen zu finden, die kostengünstiger sind als die bislang erforschten.

Die interdisziplinäre Forschung an der Schnittstelle z. B. zwischen Biologie, Chemie und Medizin wird dadurch ebenfalls wesentlich erleichtert und gestärkt. Ein bekanntes Beispiel lieferte 2020 ein Deep-Learning-System, das chemische Strukturen auf mögliche antibakterielle Eigenschaften analysierte und dabei potenzielle Antibiotika auszumachen, die sogar gegen antibiotikaresistent gewordene Bakterien wirksam waren. Die Studie demonstrierte damit ein grundsätzlich neues Verfahren: Statt Kandidaten ausschließlich aufgrund menschlich formulierter chemischer Hypothesen auszuwählen, kann eine KI gewaltige Suchräume an molekularen Strukturen nach bislang übersehenen Kandidaten durchsuchen. Ein Chemiker kann Hunderte oder Tausende aussichtsreiche Verbindungen beurteilen. Ein Computersystem kann virtuelle Bibliotheken mit Millionen möglicher Moleküle durchsuchen und jene Kandidaten herausfiltern, bei denen sich aufwendige Laboruntersuchungen überhaupt lohnen.

Fast noch eindrucksvoller zeigt sich diese Entwicklung in der Materialwissenschaft. Dort müssen Forscher aus einer nahezu unvorstellbaren Zahl möglicher Kombinationen von Elementen jene Strukturen finden, die beispielsweise als Materialien für Batterien, Halbleiter, Katalysatoren oder Werkstoffe geeignet sein könnten. Das KI-System GNoME („Graph Networks for Materials Exploration“) sagte in einer 2023 veröffentlichten Arbeit rund 381.000 neue stabile Materialstrukturen voraus – fast eine Größenordnung mehr als frühere Arbeiten. Hunderte der vorhergesagten Strukturen waren zu diesem Zeitpunkt bereits unabhängig experimentell hergestellt worden, was eine wichtige Bestätigung des KI-basierten Ansatzes darstellte.

Auch in der Physik gewinnt maschinelles Lernen an Bedeutung. Komplexe Vielteilchensysteme, Materialeigenschaften, Plasmen, Teilchendetektoren oder astronomische Daten erzeugen Informationsmengen und mathematische Suchräume, deren Auswertung mit KI ganz erheblich beschleunigt werden kann. Entscheidend ist dabei, dass KI die traditionelle mathematische Modellbildung durch die Fähigkeit erweitert und bereichert, in riesigen Datenräumen Regelmäßigkeiten zu erkennen.

Der wohl folgenreichste Anwendungsbereich von KI ist die Medizin: KI-Systeme können Röntgenbilder, Computertomographien, MRT-Aufnahmen und genetische Daten analysieren und natürlich auch die von einem einzelnen Menschen heute nicht mehr vollständig zu überblickende wissenschaftliche Fachliteratur hinzuziehen, um nach möglichen neuen oder verbesserten Therapien zu suchen und sie den Ärzten vorzuschlagen. Was dabei hervorgehoben werden sollte: Es geht nicht darum, Menschen durch KI zu ersetzen. Sondern, wie der Neurowissenschaftler Manfred Spitzer in seinem Buch “Künstliche Intelligenz” schrieb, dass Fachleute mit KI solchen, die sich nicht verwenden, über kurz oder lang voraus sein werden. Anders ausgedrückt: Dies bedeutet nicht, dass die Maschine den Arzt ersetzen sollte oder wird. Die sinnvollere Vorstellung wäre hier zunächst die einer Art “kognitiven Verstärkers”: Der Mensch liefert Kontext, Erfahrung, Verantwortung und Urteilskraft; die Maschine erkennt statistische Zusammenhänge, die ein einzelner Mensch möglicherweise übersieht.

So viel zu den positiven Aspekten und bisher erzielten großartigen Fortschritten in vielen Anwendungsbereichen. Nun zu den Schattenseiten. Denn die größte Stärke moderner KI ist zugleich eine ihrer problematischsten Eigenschaften. Ein klassisches wissenschaftliches Modell soll möglichst erklären, warum etwas geschieht. Ein neuronales Netzwerk kann dagegen bemerkenswert genaue Vorhersagen erzeugen, ohne dass der Mensch den internen Entscheidungsweg vollständig nachvollziehen kann. Damit entsteht ein bereits seit einigen Jahren diskutiertes erkenntnistheoretisches Problem: Was geschieht, wenn eine Maschine zuverlässig erkennt, DASS ein bestimmter Zusammenhang besteht, wir aber nicht mehr genau verstehen, WARUM?

In ungefährlichen Anwendungen mag das hinnehmbar sein, in der Medizin hingegen liegt der Fall komplizierter. Wenn ein KI-System einem Patienten eine bestimmte Diagnose oder Therapie empfiehlt, stellen sich sofort Fragen nach Begründung und Verantwortung. Wer trägt die Verantwortung, wenn das System irrt? Der Arzt? Das Krankenhaus? Der Hersteller? Die Entwickler des Modells? Hinzu kommt ein fundamentales statistisches Problem: Eine KI lernt aus ihren Daten – und damit auch aus deren möglicherweise enthaltenen Fehlern.

Auch scheinbar hervorragende Laborergebnisse garantieren nicht, dass ein Modell in einem anderen Krankenhaus, mit anderen Geräten oder bei einer anderen Patientengruppe genauso zuverlässig funktioniert. Eine Untersuchung über medizinische KI zeigte beispielsweise, dass Modelle aufgrund versteckter Besonderheiten der Datenerhebung sogenannte „Shortcuts“ lernen können. In den untersuchten Datensätzen wurde die tatsächliche Übertragbarkeit der Modelle dadurch im Durchschnitt teilweise erheblich überschätzt. Das ist kein randständiges Problem, sondern berührt einen Grundsatz wissenschaftlicher Erkenntnis: Korrelation ist nicht mit Kausalität zu verwechseln. Eine KI kann einen Zusammenhang entdecken, der statistisch gesehen hervorragend funktioniert, allerdings ohne die zugrunde liegende Ursache zu erkennen. Ändern sich die Rahmenbedingungen, kann die scheinbar intelligente Regel plötzlich versagen.

Eine der interessantesten Kritiken geht deshalb noch tiefer: Lisa Messeri und M. J. Crockett warnten 2024 in “Nature” vor „Illusions of understanding“ – Illusionen des Verstehens. Ihre These lautet keineswegs, KI sei für Wissenschaft ungeeignet. Im Gegenteil: Gerade weil diese Werkzeuge so leistungsfähig sind, bestehe die Gefahr, dass Wissenschaftler ihre Resultate mit tatsächlichem Verständnis verwechseln. KI könne Forschung produktiver machen, zugleich aber auch wissenschaftliche „Monokulturen“ fördern: Bestimmte Methoden, Datenbestände und Fragestellungen könnten dominieren, weil sie sich besonders gut automatisieren lassen. Wissenschaft könnte dann paradoxerweise mehr Ergebnisse produzieren, aber zugleich weniger verstehen.

Dieser Einwand führt direkt zu einem tieferen wissenschaftsphilosophischen Problem: Naturwissenschaft besteht nicht lediglich aus korrekten Vorhersagen. Sie versucht auch, Erklärungen zu finden. Eine Wissenschaft, die zunehmend von Systemen abhängig würde, deren Resultate zwar stimmen, deren innere Begründungsstrukturen aber niemand mehr nachvollziehen kann, könnte deshalb ihren Charakter verändern: von einer erklärenden zu einer immer stärker vorhersagenden Wissenschaft.

Ein weiteres Problem besteht in der Frage: Wenn leistungsfähige KI-Systeme zu unverzichtbaren Instrumenten wissenschaftlicher Erkenntnis werden, wer besitzt eigentlich diese Systeme? Die leistungsfähigsten Modelle erfordern enorme Datenbestände, spezialisierte Chips, Rechenzentren, Energie und Kapital. Wissenschaftliche Erkenntnis könnte dadurch stärker von einer relativ kleinen Zahl von Unternehmen und Institutionen abhängig werden. Schon die Veröffentlichung von “AlphaFold3” löste eine hitzige Debatte in der Welt der Wissenschaften aus, weil die Zeitschrift “Nature” die ursprüngliche Arbeit publizierte, obwohl zunächst nicht der vollständige Code des verwendeten KI-Modells zur Verfügung stand. Die Zeitschrift selbst gab später zu, dass der Vorgang grundlegende Fragen über Reproduzierbarkeit und Zugang zu den Datensätzen aufwarf.

Damit erhält das Problem technokratischer “Monokulturen” eine neue Dimension: Nicht nur Regierungen können durch KI mächtiger werden, auch die Infrastruktur wissenschaftlicher Erkenntnis selbst kann sich konzentrieren. Wer über Rechenleistung, Modelle und Daten verfügt, besitzt nicht einfach nur wirtschaftliche Macht, sondern verfügt zunehmend über die Werkzeuge, mit denen neues Wissen erzeugt wird. Es wäre deshalb ebenso falsch, künstliche Intelligenz euphorisch als kommenden “Techno-Messias” der Wissenschaft zu feiern, wie sie pauschal als Instrument einer zukünftigen technokratischen Dystopie abzulehnen.

Jeder, der sich schon einmal mit KI befasst hat, kann außerdem bestätigen, dass die ausgespuckten Ergebnisse natürlich immer davon abhängen, mit welchen Daten die Modelle gefüttert werden: Sind die Daten “biased”, wie man im Englischen sagt, also “verzerrt” oder politisch gefärbt bzw. vorurteilsbehaftet, muss man die Resultate mit größter Vorsicht genießen. Ich habe das kürzlich mal wieder überprüft, indem ich ChatGPT bestimmte Fragen zu Themen stellte, die in politischer Hinsicht als “umstritten” oder “verschwörungstheoretisch” gelten. So bat ich ChatGPT testweise um eine Kurzzusammenfassung eines langen Artikels des Klimawissenschaftlers Michael Northcott, der mit der offiziellen Klimapolitik hart ins Gericht geht und den federführenden Institutionen wie z. B. dem IPCC – was auch schon bestätigt wurde – Manipulationen vorwirft. Dreimal dürfen Sie raten: Statt mir einfach die Zusammenfassung zu geben, wies mich die KI sogleich darauf hin, es handele sich bei Northcotts Ansichten nur um eine “Einzelmeinung”, die dem “wissenschaftlichen Konsens” widerspräche – ein “Konsens”, den es in dieser Form nicht gibt.

Sieht man von solchen problematischen Teilbereichen ab, ist die bisherige Bilanz von KI jedenfalls durchaus beeindruckend: Sie hat Proteinstrukturen mit zuvor kaum erreichbarer Geschwindigkeit vorhergesagt, neue Stoffe bzw. Moleküle für Antibiotika identifiziert, Hunderttausende mögliche Materialstrukturen erschlossen und erste weitgehend autonome Labore ermöglicht. Medizinische KI eröffnet Möglichkeiten, diagnostische Informationen in einer Größenordnung auszuwerten, die die Kapazität eines einzelnen Menschen weit übersteigt.

Doch gerade diese Erfolge heben auch die kritischen Fragen deutlicher hervor. Eine KI sollte wissenschaftliches Denken erweitern, nicht ersetzen. Sie sollte Hypothesen erzeugen, ohne experimentelle Überprüfung überflüssig zu machen. Sie sollte Ärzte unterstützen, ohne menschliche Verantwortung hinter einer algorithmischen Entscheidung verschwinden zu lassen. Und sie sollte Wissenschaft beschleunigen, ohne Erkenntnis mit bloßer Vorhersage zu verwechseln.

Vielleicht liegt hierin die eigentliche Verbindung zwischen Saint-Simon und der künstlichen Intelligenz. Saint-Simon und die späteren Technokraten träumten von einer Gesellschaft, in der wissenschaftliche Rationalität menschliche Irrationalität überwinden sollte. Künstliche Intelligenz scheint diesen alten Traum in einer Form zu verwirklichen, die sie sich kaum hätten vorstellen können. Doch die Geschichte der Wissenschaft lehrt, dass Erkenntnis nicht allein aus Berechnung entsteht, nicht nur aus möglichst schneller Muster- bzw. Strukturerkennung, nicht nur aus Statistik und der Analyse riesiger Datensätze. Zweifel, Intuition, Widerspruch, unerwartete Beobachtungen und die Bereitschaft, bestehende Modelle grundsätzlich infrage zu stellen, gehören ebenso zu ihr – gerade, was Intuition betrifft, bleibt diese vorerst die Domäne des Menschen. Durch die Jahrhunderte haben viele der namhaftesten Wissenschaftler, von Galileo über Max Planck bis Einstein, immer wieder betont, dass viele ihrer Ideen, die sich später als bahnbrechend erwiesen, ursprünglich auf “Eingebungen” zurückgingen, von denen fraglich ist, ob Maschinen sie überhaupt jemals reproduzieren können.

Die vielleicht wichtigste Frage lautet deshalb nicht, ob künstliche Intelligenz eines Tages „intelligenter“ sein wird als der Mensch. Wissenschaftlich interessanter ist eine andere: Werden wir KI benutzen, um die Natur besser zu verstehen – oder werden wir uns irgendwann damit begnügen, dass die Maschine sie für uns berechnet? Zwischen diesen beiden Möglichkeiten liegt eine der wichtigsten wissenschaftlichen und zivilisatorischen Entscheidungen des 21. Jahrhunderts. Dies gilt natürlich auch für den kreativen Bereich, die Künste – egal ob Musik, Literatur oder Film. Die hitzigen Debatten, die in jüngster Zeit in Hollywood über den Einsatz von KI geführt wurden, demonstrieren dies eindrücklich. Eines steht jedenfalls jetzt schon fest: Nein, KI ist – wie in manchen besonders phantasiebegabten oder halluzinogenen Drogen nicht abgeneigten “alternativen” Medien tatsächlich behauptet wird – keine “Alien-Intelligenz aus einer anderen Dimension”, die uns alle unterjochen will. Es sind Menschen, die darüber entscheiden, wie sie diese Technologie einsetzen wollen: als Bereicherung und Hilfe oder als Weg in die “kognitive Idiocracy”.

Bis nächste Woche.

Marktplatz

Freiheit für Fortgeschrittene

ef-magazin.de

Kommentare