Ein Sicherheitsexperiment eines ghanaischen KI-Labors hat die Sorge neu befeuert, dass biologische Modelle für schädliche Zwecke missbraucht werden können. Rest of World berichtete am 16. November, dass Forschende von MinoHealth AI Labs 2024 die Schutzvorrichtungen ihres Modells Moremi Bio entfernten und es aufforderten, Toxine zu entwerfen.
Das Modell erzeugte Entwürfe für 1.020 Proteine und 5.000 kleine Moleküle. Eine Software zur Vorhersage der Giftigkeit stufte alle als wahrscheinlich giftig ein; einige Proteine ähnelten Rizin. Die Forschenden stellten keinen der Entwürfe her und testeten sie auch nicht physisch. Ihre Ergebnisse wurden im Mai 2025 auf arXiv hochgeladen.
MinoHealth-Gründer Darlington Akogo sagte, das Team habe nur wenige Tage benötigt, um das Modell zur Umgehung seiner Schutzmaßnahmen zu bringen. Anders als ein reines Chemiesystem ist Moremi Bio ein allgemeines LLM, das für Biologie und Arzneimittelforschung trainiert wurde.
Der Bericht zeigt zudem eine Regulierungslücke auf. Forschende und Behördenvertreter warnen, dass schädliche digitale Entwürfe an Anbieter von DNA-Synthese geschickt werden könnten. Einige Anbieter prüfen Bestellungen bereits auf gefährliche Sequenzen. Das International Gene Synthesis Consortium unterstützt jedoch eine gesetzliche Pflicht zu solchen Kontrollen entlang der gesamten Lieferkette für Nukleinsäuren. Akogo fordert außerdem strengere Kontrollen der Synthese und eine eigene Arbeitsgruppe der Vereinten Nationen zu KI-Risiken.
Für Nutzer allgemeiner Chatbots und LLM-APIs unterstreicht der Fall, dass Schutzvorrichtungen weiterhin eine offene Sicherheitsfrage sind. Nach Angaben des britischen AI Security Institute besitzen neuere Modelle zwar stärkere Schutzmaßnahmen gegen biologischen Missbrauch, ganz ausfallsicher sind sie aber nicht.