Vertrauen in KI-Modelle zur sicheren Datenverarbeitung und privaten Inferenz
Artikel jetzt als Podcast anhören
Vertrauenswürdige KI-Modelle ermöglichen private Inferenz für bisher mit Kryptographie nicht lösbare Probleme
Der Austausch sensibler Daten mit nicht vertrauenswürdigen Parteien stellt eine Herausforderung dar, insbesondere wenn Datenschutz Priorität hat. Klassische Ansätze zur Gewährleistung der Privatsphäre, wie die Suche nach vertrauenswürdigen Intermediären oder der Einsatz kryptographischer Protokolle wie Multi-Party-Computation (MPC) oder Zero-Knowledge-Proofs (ZKPs), stoßen bei komplexen Anwendungen oft an ihre Grenzen.
Ein vielversprechender Ansatz, der in dem Paper "Trusted Machine Learning Models Unlock Private Inference for Problems Currently Infeasible with Cryptography" vorgestellt wird, sieht leistungsfähige KI-Modelle als vertrauenswürdige Dritte. Die Autoren schlagen sogenannte "Trusted Capable Model Environments" (TCMEs) vor, in denen KI-Modelle unter definierten Eingabe-/Ausgabebeschränkungen und mit expliziter Kontrolle des Informationsflusses interagieren. Diese Umgebungen sollen einen Ausgleich zwischen Datenschutz und Recheneffizienz schaffen und private Inferenz ermöglichen, wo klassische kryptographische Lösungen derzeit nicht praktikabel sind.
Was sind TCMEs?
TCMEs basieren auf der Idee, dass ein leistungsstarkes KI-Modell die Rolle eines vertrauenswürdigen Dritten übernehmen kann. Im Gegensatz zu MPC oder ZKPs, bei denen die beteiligten Parteien direkt miteinander interagieren, geben die Parteien in einem TCME ihre privaten Daten an die Umgebung weiter, die die gewünschte Berechnung durchführt und das Ergebnis zurückgibt. Ein Beispiel ist das klassische Millionärsproblem, bei dem zwei Personen herausfinden möchten, wer mehr Geld besitzt, ohne ihre jeweiligen Vermögen preiszugeben. In einem TCME würden beide Parteien sich auf ein Modell, einen Prompt, Eingabebeschränkungen und Ausgabebeschränkungen einigen.
Drei grundlegende Eigenschaften sind entscheidend, damit Modelle als vertrauenswürdig gelten:
1. Zustandslosigkeit: Das Modell darf keine Informationen aus vorherigen Interaktionen speichern oder lernen. Dies gewährleistet, dass keine privaten Daten nach der Ausführung der Berechnung im Modell verbleiben.
2. Explizite Informationsflusskontrolle: Der Informationsfluss innerhalb des Modells und des zugrunde liegenden Systems muss klar definiert und verifizierbar sein.
3. Vertrauenswürdige und leistungsfähige Modelle: Die verwendeten Modelle müssen in der Lage sein, die gestellte Aufgabe zu lösen und die Erwartungen der beteiligten Parteien zu erfüllen.
TCMEs im Vergleich zu kryptographischen Lösungen
Ähnlich wie MPC zielen TCMEs auf Korrektheit und Datenschutz ab. Der Unterschied liegt in der Durchführung der Berechnung. Während bei MPC die Parteien direkt interagieren, übernimmt in TCMEs das Modell die Berechnung. Die Korrektheit hängt von der Leistungsfähigkeit des Modells ab, der Datenschutz von der Vertrauenswürdigkeit der Umgebung. TCMEs bieten den Vorteil, dass komplexe Berechnungen, die mit kryptographischen Methoden aufgrund ihrer Größe und Komplexität nicht realisierbar sind, durch KI-Modelle effizient durchgeführt werden können. Darüber hinaus ermöglichen TCMEs die Verwendung von natürlicher Sprache für die Aufgabenstellung, was die Nutzung durch Nicht-Spezialisten erleichtert.
Anwendungsfälle und Herausforderungen
TCMEs eröffnen neue Möglichkeiten für die sichere Analyse und Zusammenarbeit in Bereichen, in denen der Austausch sensibler Daten bisher problematisch war. Beispiele hierfür sind medizinische Diagnostik, Finanztransaktionen oder der Austausch von Geschäftsgeheimnissen. Die derzeitige Herausforderung besteht darin, die drei oben genannten Eigenschaften von TCMEs vollständig zu gewährleisten. Die Entwicklung von Methoden zur Verifizierung der Zustandslosigkeit, zur Kontrolle des Informationsflusses und zur Sicherstellung der Vertrauenswürdigkeit von KI-Modellen ist Gegenstand aktueller Forschung.
Die Forschung an TCMEs befindet sich noch in einem frühen Stadium, birgt aber das Potenzial, den Datenschutz in der KI-basierten Datenverarbeitung grundlegend zu verändern. Durch die Kombination der Leistungsfähigkeit von KI-Modellen mit strengen Sicherheitsmaßnahmen könnten TCMEs in Zukunft eine sichere und effiziente Lösung für eine Vielzahl von Anwendungen bieten, die bisher mit traditionellen kryptographischen Methoden nicht realisierbar waren.
Bibliografie Shumailov, I., Ramage, D., Meiklejohn, S., Kairouz, P., Hartmann, F., Balle, B., & Bagdasarian, E. (2025). Trusted Machine Learning Models Unlock Private Inference for Problems Currently Infeasible with Cryptography. arXiv preprint arXiv:2501.08970v1. https://arxiv.org/html/2501.08970v1 http://paperreading.club/page?id=278482 https://huggingface.co/papers?date=2025-01-16 https://www.researchgate.net/publication/340963602_Privacy_in_Deep_Learning_A_Survey https://www.sciencedirect.com/science/article/abs/pii/S0920548922000435 https://arxiv.org/pdf/2303.00654 https://www.nature.com/articles/s42256-024-00858-y https://papers.neurips.cc/paper/2021/file/2754518221cfbc8d25c13a06a4cb8421-Paper.pdf https://summerschool-croatia.cs.ru.nl/2023/slides/Sehatbakhsh_Summer-School-23.pdf https://www.researchgate.net/publication/372785457_Holistic_Survey_of_Privacy_and_Fairness_in_Machine_Learning
