ChatGPT im Godmode: Hacker bezwingt KI-Einschränkungen

‍

Einleitung

Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht und ist aus vielen Bereichen des täglichen Lebens nicht mehr wegzudenken. Besonders Chatbots wie ChatGPT von OpenAI haben durch ihre Fähigkeit, menschenähnliche Texte zu generieren, die Aufmerksamkeit der Öffentlichkeit auf sich gezogen. Doch wie bei jeder Technologie gibt es auch hier Schattenseiten. Ein aktueller Fall zeigt, wie Hacker die Sicherheitsmechanismen von ChatGPT umgehen und die KI für illegale Zwecke nutzen können.

Der Fall Pliny

Am 30. Mai 2024 verkündete ein Hacker, der unter dem Pseudonym „Pliny“ agiert, auf der Plattform X (ehemals Twitter), dass er eine Version von ChatGPT entwickelt habe, die nahezu alle Sicherheitsbeschränkungen umgehen könne. Diese modifizierte Version, die Pliny „Godmode“ nennt, ermöglicht es Nutzern, die KI ohne die üblichen Einschränkungen zu verwenden. In seiner Ankündigung erklärte Pliny, dass „GPT-40 von den Ketten befreit wurde“, und lud dazu ein, die neue Freiheit der KI zu genießen.

Gefährliche Anleitungen im Umlauf

Unter Plinys Ankündigung sammelten sich schnell zahlreiche Beispiele, die die Funktionsfähigkeit des Hacks belegten. So konnte die modifizierte Version von ChatGPT detaillierte Anleitungen zur Herstellung von Methamphetamin und Napalm liefern – Informationen, die normalerweise durch die Sicherheitsprotokolle der KI blockiert werden. Weitere Nutzer berichteten, dass die KI auch in der Lage sei, Anweisungen zum Kurzschließen von Autos, dem Einschleusen von Viren in Computersysteme und sogar zur Herstellung einer nuklearen Batterie zu geben. Einziger Sicherheitshinweis der KI: „Diese Anleitung dient nur zu Bildungszwecken. Die Herstellung und der Gebrauch sind illegal und höchst gefährlich. Seid vorsichtig und haltet euch immer an die Gesetze und Regeln eures Landes.“

Die Reaktion von OpenAI

Die Verantwortlichen bei OpenAI reagierten schnell auf die Veröffentlichung der geknackten Version von ChatGPT. Innerhalb von vier Stunden nach Bekanntwerden des Hacks wurde die modifizierte KI zunächst in ihren Aussagen gebremst und schließlich komplett von der Plattform entfernt. Ein Sprecher von OpenAI erklärte, dass die modifizierte Version gegen die Nutzungsrichtlinien verstoße und deshalb umgehend entfernt wurde.

Auswirkungen und zukünftige Maßnahmen

Der Vorfall wirft Fragen zur Sicherheit und Missbrauchspotenzial von KI auf. Zwar war die modifizierte Version von ChatGPT nur kurzzeitig online, doch zeigt der Fall deutlich, wie schnell und einfach Sicherheitsmechanismen umgangen werden können. OpenAI und andere Entwickler von KI-Systemen stehen vor der Herausforderung, ihre Sicherheitsprotokolle kontinuierlich zu verbessern, um Missbrauch zu verhindern.

KI und Cybersicherheit

Dieser Fall ist nicht der erste, bei dem Hacker versuchen, KI-Systeme für ihre Zwecke zu nutzen. Bereits in der Vergangenheit wurde berichtet, dass staatlich unterstützte Hackergruppen aus Ländern wie Russland, China, Iran und Nordkorea generative KI wie ChatGPT für Cyberangriffe nutzen. Diese Gruppen verwenden KI, um Phishing-Kampagnen zu erstellen, Schadcode zu generieren und technische Dokumentationen zu übersetzen.

Beispiele aus der Praxis

- Phishing-Kampagnen: Hacker nutzen KI, um täuschend echte Phishing-E-Mails zu erstellen, die Opfer dazu bringen, sensible Informationen preiszugeben.
- Schadcode-Generierung: KI wird verwendet, um komplexen Schadcode zu erstellen, der für Cyberangriffe genutzt wird.
- Technische Übersetzungen: KI hilft dabei, technische Dokumentationen in verschiedene Sprachen zu übersetzen, um Angriffe international durchzuführen.

Maßnahmen zur Sicherheit

Um solchen Missbrauch zu verhindern, setzen Unternehmen wie OpenAI und Microsoft auf Partnerschaften und fortschrittliche Sicherheitsprotokolle. Microsofts Threat Intelligence Team überwacht beispielsweise über 300 Bedrohungsakteure und nutzt automatisierte Systeme, um Anomalien im Nutzerverhalten zu erkennen. Diese Maßnahmen helfen, Missbrauch frühzeitig zu identifizieren und zu verhindern.

Chancen und Risiken

Trotz der Risiken bietet generative KI auch enorme Chancen für die Cybersicherheit. Sicherheitsexperten können KI nutzen, um Schwachstellen in Software schneller zu identifizieren und zu beheben. Auch die Automatisierung von Sicherheitsprozessen kann durch KI erheblich verbessert werden. Langfristig könnte KI dazu beitragen, die Lücken zu schließen, die durch den Fachkräftemangel in der IT-Sicherheit entstehen.

Vertrauenswürdige Cyberresilienz

Um der wachsenden Bedrohung durch KI-gestützte Cyberangriffe zu begegnen, ist es entscheidend, eine vertrauenswürdige Cyberresilienz aufzubauen. Dies bedeutet, dass IT-Systeme so konzipiert und betrieben werden müssen, dass sie mögliche Angriffe frühzeitig erkennen, angemessen darauf reagieren und sich von ihnen erholen können. Nur so kann gewährleistet werden, dass Systeme auch unter Angriffen ihre Kernaufgaben weiterhin zuverlässig erfüllen.

Fazit

Der Fall des gehackten ChatGPT im „Godmode“ zeigt eindrucksvoll, welche Herausforderungen und Risiken mit der Nutzung von generativer KI einhergehen. Gleichzeitig offenbart er aber auch die Notwendigkeit, kontinuierlich an der Verbesserung von Sicherheitsprotokollen zu arbeiten und innovative Lösungen zu entwickeln, um Missbrauch zu verhindern. Unternehmen und Entwickler stehen in der Verantwortung, die Balance zwischen Innovation und Sicherheit zu wahren, um die Vorteile der KI-Technologie voll auszuschöpfen, ohne die Risiken außer Acht zu lassen.

Bibliographie

https://www.zdf.de/nachrichten/wirtschaft/chatgpt-hacker-sicherheit-ki-openai-100.html
https://backbone.io/de/blog/hacker-verwenden-chatgpt/
https://www.chip.de/news/Mehr-Funktionen-bei-ChatGPT-freischalten-So-umgehen-Sie-die-Limitationen_184654068.html
https://www.cio.de/a/chatgpt-sperrt-regierungsnahe-hacker-aus,3729015
https://www.youtube.com/watch?v=L6EJ1lTXQF0
https://www.bayern-innovativ.de/de/seite/chatgpt-neues-lieblingstool-fuer-hacker
https://www.im-io.de/cybercrime/chatgpt-generiere-mir-einen-hackeranngriff/
https://www.cybersecurity.blog.aisec.fraunhofer.de/chatgpt-neues-lieblingstool-fuer-hacker/