Wie Computerviren ChatGPT zur unentdeckten Weiterverbreitung nutzen

Während künstliche Intelligenz (KI) wie ChatGPT den Alltag erheblich erleichtern kann, birgt sie auch Gefahren, die oft unterschätzt werden. Aktuelle Forschungsergebnisse zeigen, dass Computerviren KI-Tools wie ChatGPT nutzen können, um sich unentdeckt weiterzuverbreiten. Diese Entwicklung könnte erhebliche Sicherheitsbedenken aufwerfen, wenn keine geeigneten Maßnahmen ergriffen werden.

Die Funktionsweise der schädlichen Nutzung von ChatGPT

Die Wissenschaftler David Zollikofer von der ETH Zürich und Benjamin Zimmerman von der Ohio State University haben ein Szenario entworfen, in dem ein Virus ChatGPT zur Anpassung und Weiterverbreitung nutzt. Die Malware wird dabei zunächst über Phishing-Angriffe auf einen Computer eingeschleust. Dies geschieht oft durch einen Mailanhang, der als harmlose Datei getarnt ist. Einmal auf dem Computer, kann das Virus ChatGPT im Hintergrund aufrufen, um seinen eigenen Code zu modifizieren.

Das KI-Tool ändert beispielsweise Variablen und Logik im Code leicht ab, um routinemäßigen Scans von Antivirenprogrammen zu entgehen. Dadurch bleibt das Virus unentdeckt und kann weiteren Schaden anrichten.

Verbreitung durch E-Mail-Programme

Ein besonders perfider Schritt der Malware besteht darin, auf Windows-PCs das Mailprogramm Outlook aufzurufen, ohne dass es die Benutzer bemerken. Das Virus scannt die kürzlich erhaltenen E-Mails und gibt diese an ChatGPT weiter, das passende Antworten formulieren soll. Diese Antworten enthalten oft eine beiläufig erwähnte Datei im Anhang, die das Virus enthält.

So könnte das Virus beispielsweise auf eine Einladung zu einem Geburtstag antworten, indem es behauptet, der Benutzer habe bereits eine Musikauswahl für die Feier zusammengestellt, die im Anhang der E-Mail zu finden sei. Tatsächlich verbirgt sich darin jedoch das Virus, das sich so auf weitere Rechner ausbreitet.

Erste Tests und Sicherheitsempfehlungen

Erste Tests mit dieser Art von KI-Malware zeigen, dass sie zu einem erheblichen Problem werden könnte. In etwa der Hälfte der Fälle hat ChatGPT den Code des Virus verändert und passende E-Mails verfasst. In den anderen Fällen hat die KI erkannt, dass sie für schädliche Zwecke genutzt wird. Die Wissenschaftler raten dringend, dass KI-Entwickler ihre Programme gegen solchen Missbrauch schützen und entsprechende Sicherheitsmaßnahmen implementieren.

Die Reaktionen der Sicherheitsgemeinschaft

Der finnische Sicherheitsforscher Mikko Hyppönen ist alarmiert über diese Entwicklungen. Er warnt, dass Maschinen bald in der Lage sein könnten, Sicherheitslücken schneller und besser zu finden als Menschen. Laut Hyppönen erleben wir gerade „die heißeste Zeit der IT-Geschichte“, die aufregend und beängstigend zugleich sei.

Auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat vor ähnlichen Mechanismen gewarnt. Bisherige Virenscanner suchen nach einem bestimmten Schadcode, doch bei der neuen Art der KI-Malware gibt es keinen festen Code, sondern nur Anweisungen in natürlicher Sprache, die ChatGPT in schädlichen Code übersetzt.

Die Rolle der verantwortlichen Entwickler

Die Entwickler von ChatGPT, OpenAI, weisen transparent auf die Risiken hin, die mit der Nutzung ihrer KI verbunden sind. Sie betonen, dass ChatGPT begrenzt sei und nicht für wichtige Entscheidungen verwendet werden sollte. Dennoch bleibt die Sorge bestehen, dass die Technologie in die falschen Hände gelangen könnte.

Es bleibt abzuwarten, welche Maßnahmen von Entwicklern, Sicherheitsexperten und Regierungen ergriffen werden, um den Missbrauch von KI-Tools wie ChatGPT zu verhindern. Klar ist jedoch, dass die Balance zwischen technologischen Fortschritten und Sicherheitsmaßnahmen eine der größten Herausforderungen der kommenden Jahre darstellen wird.

Fazit

Die Möglichkeit, dass Computerviren KI-Tools wie ChatGPT nutzen, um sich unentdeckt weiterzuverbreiten, ist eine ernsthafte Bedrohung. Forscher und Sicherheitsexperten sind sich einig, dass dringend Maßnahmen ergriffen werden müssen, um diese Gefahr zu minimieren. Die Zusammenarbeit zwischen Entwicklern, Regierungen und Sicherheitsbehörden wird entscheidend sein, um die Integrität und Sicherheit unserer digitalen Welt zu gewährleisten.

Die Entwicklungen in diesem Bereich sollten genau beobachtet und kontinuierlich bewertet werden, um sicherzustellen, dass die Vorteile von KI nicht durch ihre Missbrauchsmöglichkeiten überschattet werden.

‍

Quellen:

- https://newstral.com/de/article/de/1255164028/wissenschaftler-zeigen-wie-viren-chatgpt-nutzen-k%C3%B6nnen-um-sich-unentdeckt-weiterzuverbreiten
- https://t3n.de/news/
- https://www.hessenschau.de/wirtschaft/forscher-der-tu-darmstadt-warnen-vor-chatgpt-es-kann-sein-dass-kuenstliche-intelligenz-einfach-luegt-v1,chat-gpt-darmstadt-100.html
- https://www.zeit.de/2024/04/computerviren-trojaner-hacking-illegalitaet/seite-3
- https://www.watson.ch/digital/analyse/560741870-wissenschaftlerin-aus-zuerich-warnt-vor-chatgpt-ki-faelscht-quellen
- https://newstral.com/de/topics/technology
- https://pm-report.de/gesundheitswesen/2024/chat-gpt-veraenderst-du-wirklich-die-gesundheit-und-medizin.html
- https://www.zdf.de/nachrichten/thema/chatgpt-106.html