Herausforderungen und Fortschritte in der Sicherheit Großer Sprachmodelle

In einer zunehmend digitalisierten Welt spielen Künstliche Intelligenz (KI) und insbesondere Große Sprachmodelle (Large Language Models, LLMs) eine immer wichtigere Rolle. Sie reichen von der Automatisierung einfacher Aufgaben bis hin zur Unterstützung komplexer Entscheidungsprozesse. Doch mit den vielfältigen Anwendungsmöglichkeiten wachsen auch die Risiken, die mit der Nutzung von KI einhergehen. Eine dieser Gefahren ist das sogenannte "Jailbreaking" – das Umgehen von Sicherheitsmechanismen in Sprachmodellen, um unerwünschte oder schädliche Inhalte zu generieren.

Das Jailbreaking von LLMs erfolgt oft durch speziell entwickelte, feindselige Eingabeaufforderungen (Adversarial Prompts), die darauf abzielen, die sicherheitsorientierte Ausrichtung der Modelle zu umgehen. Das manuelle Finden solcher Prompts ist jedoch ineffizient und zeitaufwendig, da es das Ausprobieren und Anhängen verschiedener Suffixe an bestehende Instruktionen erfordert. Automatische Methoden zur Generierung feindseliger Prompts sind hingegen schneller, können aber oft zu semantisch unsinnigen oder offensichtlichen Ergebnissen führen, die leicht zu erkennen und zu verhindern sind.

Aufgrund der Komplexität dieser Thematik und der Notwendigkeit, LLMs widerstandsfähiger gegen solche Angriffe zu machen, ist die Forschung in diesem Bereich äußerst aktiv. So zeigen beispielsweise Andriushchenko et al. (2024), dass selbst die modernsten sicherheitsorientierten LLMs nicht robust gegen einfache adaptive Jailbreaking-Angriffe sind. Durch den Zugriff auf Wahrscheinlichkeitswerte (Logprobs) können Angreifer mittels zufälliger Suche (Random Search) und einem gewählten Suffix die Zielwahrscheinlichkeiten maximieren und damit nahezu eine 100%ige Erfolgsquote bei Angriffen auf verschiedene Modelle erzielen.

Weitere Forschungen, wie die von Bhardwaj und Poria (2023), zeigen auf, dass Großmodelle wie GPT-4 und ChatGPT anfällig für sogenannte Ketten von Äußerungen (Chain of Utterances) sind, die es ermöglichen, die Modelle zu unethischem Verhalten zu verleiten. Yu et al. (2023) entwickelten GPTFuzz, einen automatisierten Jailbreak-Fuzzing-Rahmen, der auf den AFL-Fuzzing-Framework basiert und es ermöglicht, Jailbreak-Templates ohne manuelles Zutun zu generieren.

Die Arbeit von Ge et al. (2023) schlägt eine Multi-Round Automatic Red-Teaming (MART) Methode vor, die sowohl automatische feindselige Prompt-Erstellung als auch sichere Antwortgenerierung umfasst. Dies erhöht die Skalierbarkeit des Red-Teaming und die Sicherheit des Ziel-LLMs. Deng et al. (2023) integrieren manuelle und automatische Methoden, um hochwertige Angriffsprompts kosteneffizient zu erzeugen und schlagen vor, LLMs zur Nachahmung von manuell erstellten Prompts durch Kontextlernen zu instruieren.

Ein weiteres Problem ist die Entdeckung versteckter, schädlicher Informationen und Vorurteile in den Modellen, die durch ihre Sicherheitstraining unberührt oder neu eingeführt werden. Bhardwaj und Poria (2023) präsentieren eine Perspektive auf die Sicherheitsforschung bei LLMs, die auf parametrischem Red-Teaming durch Ausrichtung (Unalignment) basiert.

Die Forschung verdeutlicht, dass es entscheidend ist, Sicherheitsmechanismen in LLMs kontinuierlich zu verbessern und zu testen, um gegen potenzielle Bedrohungen gewappnet zu sein. Es wird deutlich, dass die Anpassungsfähigkeit (Adaptivität) bei der Evaluierung der Robustheit eine Schlüsselrolle spielt, da keine einzelne Methode auf alle Zielmodelle generalisieren kann.

Die zunehmende Bedeutung von KI-Systemen in unserem Alltag macht es unerlässlich, dass wir Wege finden, um sie sicherer und widerstandsfähiger gegen Missbrauch zu machen. Unternehmen wie Mindverse, die sich auf die Entwicklung von maßgeschneiderten KI-Lösungen konzentrieren, spielen dabei eine wichtige Rolle. Der Fokus liegt nicht nur auf der Schaffung fortschrittlicher KI-Anwendungen, sondern auch darauf, dass diese Anwendungen ethische Standards einhalten und vor böswilliger Nutzung geschützt sind.

Abschließend ist es wichtig, dass die Forschungsgemeinschaft, Unternehmen und Nutzer zusammenarbeiten, um die Sicherheit von LLMs zu gewährleisten. Durch den Austausch von Wissen und Ressourcen sowie die Zusammenarbeit in der Entwicklung von Sicherheitsmaßnahmen können wir gemeinsam dazu beitragen, dass die Vorteile von KI-Technologien maximiert und die Risiken minimiert werden.

Quellen:

- Andriushchenko, M., Croce, F., & Flammarion, N. (2024). Jailbreaking Leading Safety-Aligned LLMs with Simple Adaptive Attacks. https://github.com/tml-epfl/llm-adaptive-attacks
- Bhardwaj, R., & Poria, S. (2023). Red-Teaming Large Language Models using Chain of Utterances for Safety-Alignment. https://arxiv.org/abs/2310.14303
- Yu, J., Lin, X., Yu, Z., & Xing, X. (2023). GPTFUZZER: Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts. https://arxiv.org/abs/2310.12505
- Ge, S., Zhou, C., Hou, R., Khabsa, M., Wang, Y.-C., Wang, Q., Han, J., & Mao, Y. (2023). MART: Improving LLM Safety with Multi-round Automatic Red-Teaming. https://openreview.net/pdf?id=hkjcdmz8Ro
- Deng, B., Wang, W., Feng, F., Deng, Y., Wang, Q., & He, X. (2023). Attack Prompt Generation for Red Teaming and Defending Large Language Models. https://github.com/Aatrox103/SAP