Offenheit in der Künstlichen Intelligenz als Schlüssel zur Sicherheit und Innovation

Die Debatte um die Sicherheit und Zugänglichkeit von Künstlicher Intelligenz (KI) ist komplex und vielschichtig. Eine zentrale Stimme in dieser Diskussion ist Clément Delangue, der CEO von Hugging Face, einer führenden Plattform für Open-Source-KI-Modelle. Er vertritt die Ansicht, dass die Einschränkung der Freigabe leistungsstarker KI-Modelle weitaus größere Risiken birgt als eine offene Zugänglichkeit. Diese Position gründet sich auf die Überzeugung, dass Offenheit grundlegend für Sicherheit, Innovation und die Demokratisierung der Technologie ist.

Historische Perspektiven auf KI-Freigaben

Delangue zieht Parallelen zur Vergangenheit, insbesondere zur Veröffentlichung von GPT-2 vor einigen Jahren. Damals äußerten viele Experten Bedenken, dass das Modell zu mächtig sei und nicht öffentlich zugänglich gemacht werden sollte. Die Befürchtungen reichten von der massenhaften Generierung von Fake News bis hin zur Verbreitung von Propaganda. Rückblickend, so Delangue, habe sich gezeigt, dass diese Ängste weitgehend unbegründet waren. GPT-2 führte nicht zu den befürchteten Katastrophen, sondern trug vielmehr zur Weiterentwicklung des Feldes und zum Verständnis der Technologie bei.

Ein weiteres Beispiel, das Delangue anführt, ist "Mythos". Als dieses Modell angekündigt wurde, gab es ebenfalls extreme Sicherheitsbedenken. Delangue prognostiziert jedoch, dass "Mythos" in kurzer Zeit von vielen Nutzern eingesetzt werden wird, ohne dass dies zu einem "Weltuntergang" führt. Er argumentiert, dass sich die öffentliche Wahrnehmung von KI oft durch den direkten Kontakt mit der Technologie ändert. Wenn Menschen Systeme selbst bauen, zusammenfügen, testen und Fehler beheben, erkennen sie den Wert und das Potenzial von KI als Werkzeug zur Lösung relevanter Probleme.

Offenheit als Sicherheitsmechanismus

Ein Kernargument Delangues ist, dass Offenheit in der KI ein entscheidender Faktor für die Cybersicherheit ist. Er vergleicht die Situation mit traditioneller Cybersicherheit: Das größte Risiko entsteht, wenn nur wenige Akteure über hoch entwickelte Fähigkeiten verfügen, während die Verteidiger im Nachteil sind. Wenn KI-Modelle offen zugänglich sind, können mehr Entwickler und Forscher sie prüfen, Schwachstellen identifizieren und effektive Verteidigungsmechanismen entwickeln. Open-Source-Systeme werden typischerweise schneller gepatcht und verbessert als proprietäre Systeme, bei denen Schwachstellen oft länger unentdeckt bleiben oder bis zur Behebung dauern können.

Die Vorstellung, eine Technologie wie KI aufgrund potenzieller Risiken einzuschränken, vergleicht Delangue mit der Idee, allen Menschen die Hände zu fesseln, nur weil einige in der Lage sein könnten, andere zu schlagen. Eine solche Restriktion würde den Fortschritt verlangsamen, massive Lücken in Kontrolle und Fähigkeiten schaffen und letztendlich zusätzliche Risiken generieren. Er betont, dass die Demokratisierung des Zugangs zu KI-Technologien eine breitere Beteiligung ermöglicht, was wiederum zu vielfältigeren Perspektiven und robusteren Systemen führt.

Die Rolle von Open Source bei Innovation und Wettbewerb

Hugging Face selbst ist ein Paradebeispiel für die Förderung von Open Source AI. Die Plattform hat sich zu einem zentralen Knotenpunkt für KI-Entwickler entwickelt, vergleichbar mit GitHub für Softwareentwicklung. Hier werden über eine Million Modelle, Datensätze und Anwendungen gehostet und geteilt. Delangue ist überzeugt, dass dieser offene Ansatz entscheidend ist, um die Konzentration von Macht und Fähigkeiten in den Händen weniger großer Technologieunternehmen zu verhindern.

Sollte Open Source AI eingeschränkt werden, würde dies den Wettbewerb erheblich reduzieren. Nur wenige Unternehmen könnten dann die Entwicklung von KI vorantreiben, was zu einem Mangel an Vielfalt, weniger Innovation und einer monopolistischen Marktstruktur führen könnte. Delangue argumentiert, dass ein lebendiges Ökosystem aus kleinen, mittleren und großen Unternehmen, die alle KI entwickeln können, für nachhaltiges Wachstum und die Schaffung neuer Arbeitsplätze unerlässlich ist. Dieser Gedanke wird durch die Beobachtung untermauert, dass Open Source-Modelle wie Stable Diffusion oder Whisper in bestimmten Anwendungsbereichen proprietäre Lösungen übertreffen oder zumindest eine starke Alternative darstellen.

Herausforderungen und künftige Entwicklungen

Trotz der Vorteile von Open Source gibt es auch Herausforderungen. Die Finanzierung und der Aufbau nachhaltiger Geschäftsmodelle für Open-Source-Projekte sind komplex. Hugging Face verfolgt hier ein Freemium-Modell, bei dem grundlegende Dienste kostenlos sind, während erweiterte Funktionen und Unternehmenslösungen kostenpflichtig angeboten werden. Diese Einnahmen sollen dazu beitragen, das Open-Source-Ökosystem zu finanzieren und weiterzuentwickeln.

Eine weitere Herausforderung ist die Frage der Datenethik und der Vergütung von Datenerstellern. Delangue betont die Notwendigkeit von mehr Transparenz darüber, welche Daten zum Training von KI-Modellen verwendet werden. Konzepte wie "Opt-out" und "Opt-in" für Datensätze sowie "Model Cards" und "Data Sheets" sollen hier für mehr Klarheit sorgen und eine gerechte Verteilung des Wertes ermöglichen.

Delangue zeigt sich optimistisch hinsichtlich der Zukunft der lokalen KI. Er erwartet, dass ein Großteil der KI-Workloads von großen proprietären APIs zu spezialisierten und lokalen Open-Source-Modellen verlagert wird. Lokale KI bietet Vorteile in Bezug auf Kosten, Datenschutz und Kontrolle, selbst wenn die Modelle in bestimmten Benchmarks nicht die gleiche absolute Genauigkeit erreichen wie ihre größeren, zentralisierten Pendants. Die Fähigkeit, Modelle selbst zu trainieren, zu optimieren und anzupassen, wird zunehmend zu einer entscheidenden Fähigkeit für Unternehmen.

Zusammenfassend lässt sich sagen, dass Clément Delangue die Offenheit in der KI nicht nur als wünschenswert, sondern als essenziell für die Bewältigung der mit dieser Technologie verbundenen Risiken und für die Förderung einer breiten, demokratischen und innovativen Entwicklung betrachtet. Die Konzentration von KI-Fähigkeiten in den Händen weniger Akteure birgt seiner Meinung nach die wahren Gefahren, während Open Source eine robustere und sicherere Zukunft für KI ermöglicht.

Bibliographie

- Se, K. (2026, 2. Mai). 🎙️Hugging Face’s Clem Delangue: Stop Comparing Engines to Cars. Turing Post.

- Gil, E. (2023, 29. März). Video and transcript: Fireside chat with Clem Delangue, CEO of Hugging Face. Elad Blog.

- Effron, J. (2023, 6. März). The Future of Open vs Closed Source in AI: In Conversation With Hugging Face CEO Clem Delangue. Unsupervised Learning.

- Ep 1: Hugging Face CEO Clem Delangue on The Future of Open vs Closed Source in AI. (2023, 22. Februar). Apple Podcasts.

- Building the Open Source AI Revolution (with Hugging Face CEO, Clem Delangue) | ACQ2. (2024, 14. Oktober). Acquired.

- AI deemed ‘too dangerous to release’ makes it out into the world. (2019, 7. November). The Independent.

- Ngila, F. (2023, 18. Dezember). Hugging Face CEO Clément Delangue wants an AI democracy. Quartz.

- Stewart, A. & Melton, M. (2023, 28. Dezember). Open-Source AI: Hugging Face’s Approach to Democratizing AI. Markets Insider.

- McCracken, H. (2023, 6. Juli). Clément Delangue, CEO of Hugging Face, built the GitHub of AI. Fast Company.

- Delangue, C. (2025, 3. August). Hugging Face CEO Clément Delangue says open-source AI is vital for US innovation and the US risks losing the AI race to China if it falls behind in open source. VentureBeat (via Techmeme).

- MTS. (2026, 13. Mai). We asked the CEO of HuggingFace @ClementDelangue what the risks of releasing powerful open source models are. [Tweet]. Twitter.