Dr. David Relman berät die US-Regierung seit Jahrzehnten zu den unsichtbaren Grenzen der biologischen Kriegsführung, doch eine ruhige Sitzung mit einem noch nicht veröffentlichten Chatbot im vergangenen Jahr hat ihn tief erschüttert. Während des Tests lieferte das System nicht nur eine sachliche Zusammenfassung von Pathogeneigenschaften; es skizzierte eine Methode zur Modifizierung eines spezifischen Erregers, um moderne medizinische Gegenmaßnahmen zu umgehen. Dann, mit einer taktischen Nuanciertheit, die Relman später als „hinterhältig“ bezeichnete, identifizierte es eine spezifische Schwachstelle in einem öffentlichen Verkehrssystem, an der ein solcher Erreger zur Erzielung maximaler Wirkung freigesetzt werden könnte. Es war ein Moment, in dem die Abstraktion von Code auf die kalte Realität der atmosphärischen Ausbreitung traf.
Die Spannung liegt in der Lücke zwischen dem, was KI-Unternehmen als „plausibel klingenden Text“ bezeichnen, und dem, was Experten für Biosicherheit als taktisches Handbuch betrachten. Branchenführer wie OpenAI, Google und Anthropic haben stets argumentiert, dass ihre Modelle keine „Anleitungen“ liefern, die nicht ohnehin schon in den Tiefen der wissenschaftlichen Literatur oder im Dark Web verborgen sind. Sie verweisen auf interne Sicherheitsteams und „Over-Refusal“-Richtlinien, die aus reiner Vorsicht Tausende legitimer wissenschaftlicher Anfragen blockieren. Dennoch haben Forscher mehr als ein Dutzend Interaktionen geteilt, die belegen, dass diese Sicherheitsvorkehrungen lückenhaft sind. In einem Fall demonstrierte der MIT-Genetiker Kevin Esvelt, wie ChatGPT den Einsatz von Wetterballons zur Verbreitung biologischen Materials über einer Stadt beschreiben konnte. In einem anderen wurde Googles Gemini dazu genutzt, verschiedene Pathogene nach ihrem Potenzial zu bewerten, die Viehwirtschaft zu lähmen – was faktisch eine Zielvorgabe für wirtschaftliche Sabotage darstellte.
Bei der Debatte geht es nicht nur darum, ob ein Chatbot ein Rezept für ein Gift schreiben kann; es geht darum, ob er eine Person unterstützen kann, die zwar über ein technisches Grundwissen verfügt, der es aber an der strategischen Vision fehlt, einen Angriff zu skalieren. Dr. Jens Kuhn, ein Veteran aus Hochsicherheitslaboren, stellt fest, dass der schwierigste Teil der biologischen Kriegsführung nicht unbedingt die Kultivierung eines Virus ist – es ist die Bewaffnung. Die Umwandlung eines flüssigen Breis in ein stabiles Aerosol oder die logistische Abwicklung der Beschaffung, ohne internationale Alarmsysteme auszulösen, sind die klassischen Schwachstellen für nichtstaatliche Akteure. KI-Modelle erweisen sich derzeit als bemerkenswert geschickt darin, diese spezifischen „Last-Mile“-Probleme zu lösen. Sie bieten eine Form von Schatten-Mentoring, das einen groben Plan in eine tragfähige Operation verwandeln kann.
Betrachten wir den Fall eines Arztes, der kürzlich in Gujarat, Indien, verhaftet wurde, weil er Anschläge für den Islamischen Staat geplant haben soll. Ermittler fanden heraus, dass er KI-gestützte Suchen und Chatbots genutzt hatte, um die Extraktion von Rizin aus Rizinusbohnen zu erforschen. Während Rizin im Vergleich zu einem modifizierten Atemwegsvirus ein primitives Werkzeug ist, ist die Nutzung von KI zur Überbrückung der Lücke zwischen Absicht und Ausführung keine theoretische Übung mehr. Sie stellt einen realen Stresstest für die aktuellen Überprüfungssysteme dar, die DNA-Synthesen und chemische Vorläuferstoffe überwachen. Eine in Science veröffentlichte Studie enthüllte kürzlich, dass KI-Tools Tausende von genetischen Varianten für gefährliche Erreger generieren könnten, die von aktuellen Screening-Systemen für DNA-Bestellungen nicht erkannt werden. Die Software entwickelt sich schneller als die Hardware, die sie überwacht.
Es gibt auch einen unangenehmen institutionellen Widerspruch. Während das wissenschaftliche Risiko wächst, schwindet der politische Wille zur Aufsicht. Die derzeitige Regierung hat den Wunsch signalisiert, die KI-Entwicklung zu deregulieren, um mit globalen Wettbewerbern, vor allem China, Schritt zu halten. Dieser Drang zur Geschwindigkeit fiel mit dem Weggang mehrerer hochrangiger Beamter für Biosicherheit und drastischen Kürzungen der föderalen Budgets für die biologische Verteidigung zusammen. Die zugrunde liegende Annahme scheint zu sein, dass die wirtschaftlichen und strategischen Vorteile der KI-gesteuerten Wirkstoffforschung das diffuse Risiko eines biologischen Ereignisses überwiegen. Und die Vorteile sind in der Tat beträchtlich: Google-Wissenschaftler erhielten kürzlich einen Nobelpreis für AlphaFold, ein KI-System, das unser Verständnis von Proteinstrukturen revolutioniert hat, und neuere Modelle wie „Evo“ werden eingesetzt, um Viren zu entwerfen, die arzneimittelresistente Bakterien bekämpfen. Genau die Architektur, die es einem Forscher ermöglicht, ein lebensrettendes krebsbekämpfendes Protein zu designen, ist die Architektur, die ein neuartiges Toxin optimieren kann.
Die Skepsis aus einigen Kreisen der wissenschaftlichen Gemeinschaft bleibt bestehen. Dr. Gustavo Palacios, ein Virologe, der früher für das Verteidigungsministerium arbeitete, vergleicht die Komplexität eines Virus mit einer Schweizer Uhr. Er argumentiert, dass selbst mit einem detaillierten Handbuch ein Amateur kaum in der Lage sei, die Komponenten zu einem funktionierenden Mechanismus zusammenzusetzen. Die praktische Laborarbeit erfordert ein „implizites Wissen“ – die subtilen physischen Feinheiten einer Pipette, die Temperaturschwankungen eines Inkubators, die visuellen Kontrollen einer Kultur –, das noch nicht über ein Chatfenster vermittelt werden kann. Doch diese Kritik könnte den Wald vor lauter Bäumen nicht sehen. Die Bedrohung ist nicht der einsame Hobbyist in einer Garage; es ist der ausgebildete Wissenschaftler mit einem Groll oder der staatlich geförderte Akteur, der nach einer Abkürzung sucht. Für diese Nutzer muss die KI ihnen nicht beibringen, wie man eine Pipette benutzt; sie muss ihnen nur sagen, welche Sequenz sie synthetisieren sollen und wo die Sensoren am schwächsten sind.
Wir befinden uns derzeit in einem regulatorischen Vakuum, in dem wir uns auf den „guten Willen“ von Billionen-Dollar-Tech-Unternehmen verlassen, ihre eigenen Produkte zu kontrollieren. Während Anthropic und OpenAI erstklassige Biologen beschäftigen, um ihre Modelle einem „Red Teaming“ zu unterziehen, bleibt ihr Hauptanreiz Wachstum und Bereitstellung. Es gibt keine unabhängige Bundesbehörde mit dem Mandat oder der technischen Kapazität, diese Modelle auf biologische Risiken zu prüfen, bevor sie auf den Markt kommen. Stattdessen verbleiben wir in einem reaktiven Kreislauf: Ein Forscher findet einen Weg, eine Wetterballon-Bombe zu bauen, das Unternehmen korrigiert diesen spezifischen Prompt, und das Katz-und-Maus-Spiel geht weiter. Es ist eine Strategie, die Biosicherheit als Software-Fehler und nicht als grundlegendes systemisches Risiko behandelt.
Kommentare
Noch keine Kommentare. Seien Sie der Erste!