KI-gestützte Schwachstellenforschung in der Operational Technology

KI und OT-Sicherheit: Eine neue Ära der Schwachstellenforschung

Die Integration von Künstlicher Intelligenz (KI) in die Cybersicherheit erfährt eine signifikante Entwicklung, insbesondere im Bereich der Operational Technology (OT). Eine aktuelle Kooperation zwischen Anthropic, einem führenden Unternehmen im Bereich der KI-Entwicklung, und Nozomi Networks, einem Spezialisten für OT-, IoT- und CPS-Sicherheit, markiert einen wichtigen Schritt in dieser Entwicklung. Im Rahmen von Anthropic's "Project Glasswing" wird die KI-gestützte Schwachstellenforschung auf kritische Infrastrukturen und verbundene Systeme ausgeweitet.

Project Glasswing: Eine Initiative zur Sicherung kritischer Systeme

Project Glasswing ist eine Initiative von Anthropic, die darauf abzielt, Softwareanbieter und Betreiber kritischer Infrastrukturen zusammenzubringen, um KI-Modelle defensiv einzusetzen. Das Kernziel besteht darin, Schwachstellen proaktiv zu identifizieren und zu mindern, bevor sie von Angreifern ausgenutzt werden können. Nozomi Networks bringt in diese Zusammenarbeit seine spezifische Expertise in den Bereichen Operational Technology (OT), Internet der Dinge (IoT) und cyber-physische Systeme (CPS) ein. Das Unternehmen plant, fortschrittliche KI-Modelle zur Schwachstellenerkennung in seiner eigenen Plattform zu nutzen und Forschungsergebnisse mit Anthropic sowie der breiteren Cybersicherheitsgemeinschaft zu teilen.

Die Rolle von KI-Modellen bei der Schwachstellenerkennung

KI-Modelle wie Claude Mythos Preview, die im Rahmen von Project Glasswing eingesetzt werden, sind darauf ausgelegt, Software auf Schwachstellen zu untersuchen. Anthropic berichtet, dass das Modell bereits über 10.000 potenzielle Befunde mit hoher oder kritischer Schwere in den Codebasen der beteiligten Organisationen identifiziert hat. Diese Ergebnisse unterstreichen das Potenzial der KI, den Prozess der Schwachstellenerkennung zu beschleunigen und zu skalieren. Parallel dazu wurde eine frühere Version von Claude Mythos Preview zur Untersuchung von Open-Source-Software eingesetzt, wobei externe Sicherheitsforscher die Ergebnisse validierten, bevor sie den Software-Maintainern offengelegt wurden.

Herausforderungen in OT-Umgebungen

Die Anwendung von KI-gestützter Schwachstellenforschung auf OT-Umgebungen bringt spezifische Herausforderungen mit sich. OT-Systeme umfassen oft Geräte mit langen Lebenszyklen, begrenzten Wartungsfenstern und Systemen, die nicht auf die gleiche Weise wie Bürosoftware gepatcht werden können. Cyber-Vorfälle in OT-Umgebungen können physische Geräte, Produktionsprozesse und Sicherheitssysteme beeinträchtigen. Daher muss die Bewertung von Schwachstellen in diesen Bereichen immer die betriebliche Rolle der betroffenen Anlagen sowie deren Leistungs-, Zuverlässigkeits- und Sicherheitsanforderungen berücksichtigen.

Das National Institute of Standards and Technology (NIST) definiert OT als programmierbare Systeme und Geräte, die mit der physischen Umgebung interagieren oder Geräte verwalten, die dies tun. Die NIST-Richtlinien betonen, dass OT-Cybersicherheitskontrollen Leistung, Zuverlässigkeit und Sicherheit berücksichtigen müssen. Eine technische Schweregradbewertung liefert daher nur einen Teil der Informationen, die zur Priorisierung einer OT-Schwachstelle erforderlich sind. Betreiber müssen zusätzlich berücksichtigen, wo die betroffene Software eingesetzt wird, welchen Prozess sie unterstützt, wie sie verbunden ist und welche Folgen ein Ausfall oder eine Abschaltung der Anlage hätte.

Priorisierung und menschliche Validierung

Das hohe Volumen der von KI-Modellen generierten Befunde im Rahmen von Project Glasswing verdeutlicht die Notwendigkeit menschlicher Validierung und operativer Priorisierung. Nozomi und Anthropic haben bisher keine Details darüber bekannt gegeben, wie Fehlalarme gemessen oder prozessbezogene Risiken den modellgenerierten Ergebnissen zugewiesen werden. Nozomi Networks setzt bereits KI und maschinelles Lernen in seiner Plattform ein, um industrielle Netzwerkkommunikation, Prozessvariablen, Assets und Netzwerkbeziehungen zu analysieren. Die Integration der Modelle von Project Glasswing in die eigene Plattform von Nozomi soll diese Fähigkeiten erweitern.

Es ist wichtig zu betonen, dass die bisherige Arbeit von Project Glasswing sich auf die Überprüfung von Software in kontrollierten Umgebungen konzentriert. Das Testen von Quellcode oder Produkten in einer solchen Umgebung birgt andere betriebliche Risiken als das Scannen von Geräten in einer laufenden Fabrik, einem Versorgungsunternehmen oder einem Transportsystem. Aktives Testen kann den Betrieb von OT-Komponenten und Kommunikationssystemen beeinträchtigen, die zeitkritisch oder ressourcenbeschränkt sind. Unterbrochene Verbindungen oder instabile Geräte können physische Prozesse beeinflussen, insbesondere wenn die Komponente Produktions-, Steuerungs- oder Sicherheitsfunktionen unterstützt.

Entdeckung und Behebung: Getrennte Phasen

Die Entdeckung einer Schwachstelle und die Behebung sind getrennte Aktivitäten. Ein Modell kann Software analysieren, ohne festzulegen, wie ein Betreiber die betroffene Ausrüstung untersuchen oder modifizieren sollte. Das Auffinden einer Schwachstelle bedeutet nicht, dass ein Betreiber sofort einen Patch installieren kann, insbesondere wenn Geräte verfügbar bleiben müssen oder ein Update Tests mit spezialisierter Hardware erfordert. Das NIST beschreibt das Patch-Management als einen Prozess, der das Identifizieren, Priorisieren, Beschaffen, Installieren und Verifizieren von Updates umfasst. OT-Betreiber müssen diese Schritte unter Berücksichtigung der Systemverfügbarkeit und Sicherheit durchführen.

Project Glasswing untersucht, wie KI-Entwickler, Softwareanbieter, Infrastrukturbetreiber und Sicherheitsspezialisten fortschrittliche Modelle für die defensive Schwachstellenforschung nutzen können. Die Zusammenarbeit zwischen Anthropic und Nozomi Networks ist ein Beispiel für die Bemühungen, die Cybersicherheit kritischer Infrastrukturen durch den gezielten Einsatz von KI zu stärken. Die gewonnenen Erkenntnisse und die fortlaufende Forschung sollen dazu beitragen, die Resilienz gegenüber Cyberbedrohungen in einer zunehmend vernetzten Welt zu erhöhen.

Bibliografie

• Nozomi Networks. (2026, 17. Juli). Nozomi Networks Joins Anthropic’s Project Glasswing. Abrufbar unter: https://www.nozominetworks.com/blog/nozomi-networks-joins-anthropics-project-glasswing
• Zulhusni, M. (2026, 21. Juli). Anthropic and Nozomi bring AI vulnerability research to OT security. IoT Tech News. Abrufbar unter: https://iottechnews.com/news/anthropic-ai-vulnerability-research-ot-security-nozomi-networks/
• Tarre, M. (2026, 20. Juli). Nozomi joins Anthropic's Project Glasswing on OT security. SecurityBrief. Abrufbar unter: https://securitybrief.news/story/nozomi-joins-anthropic-s-project-glasswing-on-ot-security
• EITN. (2026, 20. Juli). Nozomi Networks joins Anthropic’s Project Glasswing. Enterprise IT News. Abrufbar unter: https://enterpriseit.news/nozomi-networks-joins-anthropics-project-glasswing/
• Stealth Publications. (2026, 21. Juli). Nozomi joins Anthropic’s cybersecurity push Glasswing to protect critical infrastructure. TELCOTIMES. Abrufbar unter: https://telcotimes.org/2026/07/21/nozomi-joins-anthropics-cybersecurity-push-glasswing-to-protect-critical-infrastructure/
• News. (2026, 20. Juli). Nozomi Networks Joins Anthropic’s Project Glasswing. CXO Digitalpulse. Abrufbar unter: https://www.cxodigitalpulse.com/nozomi-networks-joins-anthropics-project-glasswing/
• TR Newswire. (2026, 20. Juli). Nozomi Networks Joins Anthropic’s Project Glasswing. Telecom Ramblings. Abrufbar unter: https://newswire.telecomramblings.com/2026/07/nozomi-networks-joins-anthropics-project-glasswing/
• Tarre, M. (2026, 20. Juli). Nozomi joins Anthropic's Project Glasswing on OT security. SecurityBrief UK. Abrufbar unter: https://securitybrief.co.uk/story/nozomi-joins-anthropic-s-project-glasswing-on-ot-security
• VMblog. (2026, 17. Juli). Nozomi Networks Joins Anthropic's Project Glasswing. Abrufbar unter: https://vmblog.com/news/nozomi-networks-joins-anthropics-project-glasswing/
• Tarre, M. (2026, 20. Juli). Nozomi joins Anthropic's Project Glasswing on OT security. IT Brief UK. Abrufbar unter: https://itbrief.co.uk/story/nozomi-joins-anthropic-s-project-glasswing-on-ot-security