OpenAI, das Unternehmen hinter dem bekannten KI-Chatbot ChatGPT, hat in einem aktuellen Bericht bestätigt, dass die Software in mehreren Fällen zur Entwicklung von Schadsoftware genutzt wurde. Der Bericht mit dem Titel "Influence and Cyber Operations: An Update" dokumentiert über 20 Fälle aus dem Jahr 2024, in denen Cyberkriminelle ChatGPT für Cyberangriffe oder zur Entwicklung von Malware einsetzten.

Staatlich geförderte Hackergruppen nutzen ChatGPT

Besonders besorgniserregend ist die Erkenntnis, dass staatlich geförderte Hackergruppen aus Ländern wie China und dem Iran die Fähigkeiten von ChatGPT nutzten, um bestehende Malware zu verbessern und neue Schadsoftware zu entwickeln. Laut dem Bericht nutzten diese Gruppen ChatGPT in erster Linie, um neuen Malware-Code zu debuggen, Inhalte für Phishing-Kampagnen zu generieren und Desinformation in sozialen Medien zu verbreiten.

Iranische Gruppe nutzt ChatGPT zur Schwachstellenanalyse

Eine iranische Gruppe namens "CyberAv3ngers", die mit den Islamischen Revolutionsgarden in Verbindung stehen soll, nutzte ChatGPT auf eine etwas andere Weise. Anstatt die KI direkt für die Malware-Entwicklung zu verwenden, setzten sie ChatGPT ein, um Schwachstellen in industriellen Steuerungssystemen zu erforschen. Anschließend programmierten sie gezielt Skripte für potenzielle Angriffe auf kritische Infrastrukturen.

Entwicklung von Phishing-Malware und Diebstahl von Nutzerdaten

In anderen Fällen wurde ChatGPT zur Entwicklung von Phishing-Malware eingesetzt, um damit Benutzerdaten wie Kontakte, Anrufprotokolle und Standortinformationen zu stehlen. Obwohl diese Ergebnisse alarmierend sind, betonte OpenAI, dass die Cyberkriminellen durch ChatGPT keine signifikanten Durchbrüche bei der Erstellung von Malware erzielten. Es sei auch kein Anstieg von erfolgreichen Malware-Attacken durch den missbräuchlichen Einsatz von ChatGPT zu erkennen.

Zunehmende Besorgnis in der Sicherheitsbranche

Dennoch wächst die Besorgnis in der Sicherheitsbranche, dass mit der Weiterentwicklung der KI-Technologie auch die Gefahr des Missbrauchs zunehmen wird. Experten warnen davor, dass ChatGPT und ähnliche Chatbots die Einstiegshürde zur Entwicklung von Schadsoftware deutlich senken könnten. Insbesondere Menschen ohne Programmierkenntnisse könnten durch die einfache Bedienung von ChatGPT in die Lage versetzt werden, Malware und Phishing-E-Mails zu erstellen.

Haftungsfragen bei der Generierung von Schadcode

Die zunehmende Nutzung von ChatGPT für kriminelle Aktivitäten wirft auch neue Haftungsfragen auf. Juristen diskutieren, inwieweit Unternehmen, die ChatGPT oder ähnliche Chatbots einsetzen, haftbar gemacht werden können, wenn ihre Software zur Begehung eines Cyberverbrechens verwendet wird.

Fazit: Wachsamkeit und ständige Weiterentwicklung der Sicherheitsmaßnahmen

Die im OpenAI-Bericht dokumentierten Fälle zeigen, dass die Möglichkeiten von KI-Sprachmodellen wie ChatGPT auch von Cyberkriminellen genutzt werden. Es ist daher wichtig, dass Unternehmen und Organisationen, die ChatGPT einsetzen, sich der damit verbundenen Risiken bewusst sind und entsprechende Sicherheitsmaßnahmen ergreifen. Dazu gehört die Implementierung von Sicherheitsrichtlinien, die Schulung von Mitarbeitern im Umgang mit ChatGPT sowie die Nutzung von Sicherheitslösungen, die speziell für die Erkennung und Abwehr von KI-generierter Malware entwickelt wurden. Nur durch ständige Wachsamkeit und die Weiterentwicklung von Sicherheitsmaßnahmen können die Risiken, die mit dem Einsatz von KI-Technologien verbunden sind, minimiert werden.

Quellen:

https://www.heise.de/thema/ChatGPT

https://itwelt.at/news/interview/chatgpt-und-die-herausforderungen-der-malware-entwicklung/

https://industrie.de/top/chatgpts-potenzial-bei-der-malware-erstellung-auf-dem-pruefstand/

https://www.derstandard.de/story/3000000207521/chatgpt-hilft-staatlichen-hackern-ihre-cyberangriffe-zu-verbessern

https://sosafe-awareness.com/de/blog/die-sicherheitsrisiken-von-chatgpt-und-wie-sie-sie-vermeiden/

https://www.infopoint-security.de/chatgpt-cyberkriminelle-nutzen-openai-zur-entwicklung-boesartiger-tools/a33101/

https://b2bcybersecurity.tumblr.com/post/707128064891568128/openai-cyberkriminelle-nutzen-chatgpt

https://www.exabeam.com/de/explainers/ai-cyber-security/chatgpt-in-the-organization-top-security-risks-and-mitigations/

https://www.derstandard.de/story/2000143956409/wie-cyberkriminelle-chatgpt-nutzen-um-schadsoftware-zu-erstellen