KI hält Einzug in Biolabore: Unfälle verdienen so viel Aufmerksamkeit wie Missbrauch

KI dringt tiefer in die biologische Forschung vor

Der Beitrag des Atlantic Council geht von mehreren aktuellen Entwicklungen aus. Demnach hat Anthropic kürzlich in San Francisco ein biologisches Forschungslabor eingerichtet, in dem Claude in jeden Schritt des Forschungsprozesses eingebunden ist. In einer der ersten veröffentlichten Studien des Labors habe Claude laut Artikel eigenständig ein neuartiges Enzymsystem entdeckt, das mit DNA-Wiederholungen in Verbindung steht, ein Muster, das an CRISPR erinnert.

Der Artikel verweist zudem auf Arbeiten von Forschern der Stanford University, die mit dem Open-Source-KI-Tool Evo sechzehn lebensfähige Viren erzeugten, die in der Natur noch nie beobachtet wurden. Keiner der Bakteriophagen kann Menschen infizieren, doch das Experiment zeige, dass KI beim Entwurf biologischer Sequenzen helfen kann, die in der Natur nicht vorkommen.

Die Nutzung ist weit verbreitet. Eine im September veröffentlichte Studie von Forschern von Google DeepMind, dem Massachusetts Institute of Technology und mehreren weiteren Universitäten ergab laut Artikel, dass fast die Hälfte der befragten Wissenschaftler täglich KI einsetzt. KI ermögliche es Laboren, schneller und kostengünstiger zu arbeiten.

Missbrauchssorgen dominieren, Unfälle finden weniger Beachtung

Der Autor erkennt die Sorgen vor gezieltem Missbrauch an. Im September veröffentlichte Anthropic einen Bericht, der biologische Missbrauchsfälle mit Claude zu den schwerwiegendsten zählt. In einem Fall bat ein militärisches Forschungsinstitut um Hilfe bei einem Förderantrag, mit dem gewünschte Mutationen im Chikungunya-Virus identifiziert und Klone mit erhöhter Virulenz entwickelt werden sollten. In einem anderen Fall versuchte ein Forscher, mit Claudes Hilfe eine Reihe von Toxinen umzugestalten.

Open-Weight-Modelle wie das chinesische Kimi-K3 senken zusammen mit DNA-Synthesegeräten für den Schreibtisch theoretisch die Hürden für die Entwicklung biologischer und chemischer Waffen. Dennoch blieben, so der Artikel, die nötige Laborausrüstung, Ausbildung und Finanzierung für eine einsatzfähige Waffe erhebliche Hindernisse. Der Autor argumentiert, ein Tunnelblick auf absichtlichen Missbrauch verdränge die Sorgen um legitime, KI-gestützte Forschung.

Politik und die Verbreitung von Hochsicherheitslaboren

Der Beitrag erwähnt eine Richtlinie des Office of Science and Technology Policy des Weißen Hauses vom Juli 2026, die neue Rahmenbedingungen für gefährliche Gain-of-Function-Forschung (DGOF) festlegt. Sie setzt die Bundesförderung für DGOF-Forschung aus, verpflichtet Forscher, Arbeiten, die unter die DGOF-Definition fallen könnten, sofort zu stoppen und der Förderbehörde innerhalb von vierundzwanzig Stunden zu melden, und verlangt von Institutionen, mögliche nicht bundesfinanzierte DGOF-Forschung zu identifizieren. Die Richtlinie sei sehr neu, ihre Wirksamkeit müsse sich erst noch zeigen, so der Autor.

Ein weiteres Problem ist das Wachstum bei Laboren der Biosicherheitsstufe 4 (BSL-4). Im Jahr 2023 zählte das Projekt Global BioLabs einundfünfzig in Betrieb befindliche BSL-4-Labore, drei im Bau und fünfzehn in Planung, verteilt auf siebenundzwanzig Länder. Die Zahl der betriebsbereiten Labore sei etwa doppelt so hoch wie vor zehn Jahren. Von diesen siebenundzwanzig Ländern erzielten nur zwölf hohe Werte bei der Biosicherheit und nur eines, Kanada, einen hohen Wert bei der Regulierung von Dual-Use-Forschung. Bei einer Anhörung im Kongress im selben Jahr hieß es, dass nur sieben beim Gesamtmanagement biologischer Risiken hoch abschnitten.

Laborunfälle sind dokumentiert, nicht hypothetisch

Eine Studie von 2024 identifizierte zwischen 2000 und 2021 309 laborassoziierte Infektionen mit einundfünfzig Erregern sowie sechzehn versehentliche Freisetzungen mit acht Erregern. Dabei sollen acht Menschen gestorben sein. Ein Brucella-Leck in einer Impfstoffanlage im chinesischen Lanzhou im Jahr 2019 führte bis November 2020 zu mehr als zehntausend positiven Tests. Eine Studie von 2025 zählte zwischen 2000 und 2024 712 Infektionen in 250 Berichten und nannte unzureichende Dekontamination, Nadelstichverletzungen und die unwirksame Verwendung persönlicher Schutzausrüstung als wesentliche Risikofaktoren.

Diese Zahlen unterschätzen die Realität nach Ansicht des Autors mit großer Wahrscheinlichkeit, weil es kein formelles globales Meldesystem für laborassoziierte Infektionen und Freisetzungen gibt.

Was die Analyse nahelegt

Der Artikel empfiehlt Ländern, die ihre Hochsicherheitsforschung ausbauen, neben den Laborkapazitäten auch Rahmenwerke für das Management biologischer Risiken aufzubauen, darunter eine nationale Aufsicht über Dual-Use- und DGOF-Forschung sowie international anerkannte Biosicherheitspraktiken. Als Vorbild nennt er Kanadas Human Pathogens and Toxins Act, der 2026 aktualisiert wurde. Das Gesetz verlangt eine verpflichtende Meldung von Zwischenfällen, staatliche Lizenzen für Forschung mit Erregern von hoher Tragweite und eine schriftliche Mitteilung, wenn Forscher Eigenschaften wie Virulenz oder Pathogenität steigern wollen.

Der Autor betont, dass diese Vorfälle nicht belegen, dass KI zu mehr Laborunfällen führen wird. Sie deuteten aber darauf hin, dass versehentliche Freisetzungen bereits eine ernsthafte Schwachstelle sind, während KI-gestützte Forschung und Hochsicherheitskapazitäten zugleich wachsen. Damit diese Schwachstelle nicht größer wird, müssten Biosicherheits- und Governance-Rahmen mit der Technologie Schritt halten, so das Fazit des Beitrags.