Entwicklung von kompakten KI-Modellen für mobile Geräte durch PrismML

Revolution in der mobilen KI: PrismML ermöglicht gewaltige Sprachmodelle direkt auf dem iPhone

Die Zukunft der Künstlichen Intelligenz (KI) auf mobilen Geräten steht möglicherweise vor einem Paradigmenwechsel. Das Start-up PrismML, ein Spin-off des renommierten California Institute of Technology (Caltech), hat nach eigenen Angaben einen Durchbruch erzielt, indem es ein großes Sprachmodell mit 27 Milliarden Parametern auf einem iPhone 17 Pro lauffähig gemacht hat. Diese Entwicklung könnte die Strategie von Unternehmen wie Apple, KI-Funktionen direkt auf dem Gerät auszuführen, maßgeblich beeinflussen und die Abhängigkeit von Cloud-Lösungen reduzieren.

Die Herausforderung der On-Device-KI

Seit Langem verfolgt Apple die Strategie, maschinelles Lernen (ML) bevorzugt auf der eigenen Hardware zu implementieren. Ein wesentlicher Treiber dieser Philosophie ist der Datenschutz, da sensitive Nutzerdaten das Gerät nicht verlassen müssen. Mit der Einführung von "Apple Intelligence" und Modellen wie AFM Core und AFM Core Advanced hat Apple bereits beeindruckende Fortschritte erzielt, indem es ein Modell mit 20 Milliarden Parametern für das iPhone 17 Pro, 17 Pro Max und Air optimierte. Diese Leistung galt bereits als technisches Meisterstück, da die begrenzten Ressourcen von Smartphones, insbesondere in Bezug auf Arbeitsspeicher und Rechenleistung, eine große Herausforderung für den Betrieb komplexer KI-Modelle darstellen.

PrismMLs technischer Durchbruch

PrismML hat nun diese Grenzen weiter verschoben. Dem Start-up ist es gelungen, Alibabas Open-Source-Sprachmodell Qwen 3.6, das ursprünglich 54 Gigabyte Speicherplatz beansprucht und über 27 Milliarden Parameter verfügt, auf unter 4 Gigabyte zu komprimieren. Dies entspricht einer Kompressionsrate von über 90 Prozent. Das Besondere daran ist, dass laut PrismML alle 27 Milliarden Parameter gleichzeitig aktiv bleiben sollen, ohne dass die Leistung oder Qualität des Modells darunter leidet. Dies unterscheidet sich von herkömmlichen Quantisierungsverfahren, die oft mit Qualitätseinbußen verbunden sind.

Die Technologie von PrismML basiert auf proprietären "mathematischen Tricks", die über die übliche Quantisierung hinausgehen. Die Patente für diese innovativen Kompressionsverfahren liegen beim Caltech. Ab dem kommenden Dienstag soll das komprimierte Modell der Öffentlichkeit als Open-Source-Lösung zur Verfügung gestellt werden.

Implikationen für die mobile KI-Landschaft und Gespräche mit Apple

Die Fähigkeit, derart große und leistungsstarke KI-Modelle direkt auf einem Smartphone auszuführen, eröffnet neue Möglichkeiten für mobile Anwendungen. Aufgaben wie komplexe Chat-Antworten, anspruchsvolle Reasoning-Aufgaben und sogar vollständig autonome Agenten für Coding könnten direkt auf dem Gerät verarbeitet werden. Dies würde die Geschwindigkeit der Interaktion erhöhen und die Notwendigkeit einer ständigen Cloud-Anbindung für viele KI-Funktionen reduzieren.

Baba Hassibi, der Leiter von PrismML und Professor für Elektrotechnik am Caltech, prognostiziert, dass in "vielleicht drei Jahren" bis zu 95 Prozent der benötigten KI-Leistung lokal auf Smartphones, Laptops oder sogar speziellen Appliance-Geräten zur Verfügung stehen wird. Er geht davon aus, dass nur noch "fünf Prozent der High-End-Sachen" in die Cloud verlagert werden müssen. Diese Vision könnte weitreichende Auswirkungen auf die gesamte KI-Branche haben, insbesondere auf Unternehmen, die massiv in Cloud-basierte Rechenzentren und leistungsstarke GPUs investiert haben. Während das Training von KI-Modellen voraussichtlich weiterhin in Rechenzentren stattfinden wird, könnte die Inferenz – also die Anwendung der Modelle – zunehmend auf Endgeräte verlagert werden.

Berichten zufolge hat Apple bereits erste Gespräche mit PrismML geführt, um die Technologie für zukünftige iPhone-Modelle zu evaluieren. Apples bisherige On-Device-Strategie, bei der Flash-Speicher zur Lösung von RAM-Problemen bei großen Modellen genutzt wird, könnte durch PrismMLs Kompressionsverfahren weiter optimiert werden. Dies würde Apple ermöglichen, noch leistungsfähigere KI-Funktionen anzubieten, während der Fokus auf Datenschutz und lokale Verarbeitung beibehalten wird.

Es bleibt abzuwarten, wie sich diese Entwicklung auf die Innovationsgeschwindigkeit und die Wettbewerbslandschaft im Bereich der Künstlichen Intelligenz auswirken wird. Cloud-Modelle bieten nach wie vor den Vorteil schnellerer Aktualisierungen, die keine Nutzerinteraktion erfordern. Die lokale Ausführung großer Modelle könnte jedoch die Benutzererfahrung in puncto Geschwindigkeit, Zuverlässigkeit und Datenschutz erheblich verbessern.

Fazit

PrismMLs Erfolg bei der Komprimierung eines 27-Milliarden-Parameter-Modells für das iPhone stellt einen bedeutenden Fortschritt in der On-Device-KI dar. Sollte sich diese Technologie breit durchsetzen, könnte dies die Art und Weise, wie KI auf mobilen Geräten eingesetzt wird, grundlegend verändern. Für B2B-Akteure im Bereich der KI-Entwicklung und -Anwendung bedeutet dies eine potenzielle Verschiebung der Architektur von KI-Lösungen hin zu stärker dezentralen und Edge-basierten Ansätzen, die neue Möglichkeiten für innovative Produkte und Dienstleistungen eröffnen.

Bibliographie

- Schwan, Ben. "Größtes lokales KI-Modell: PrismML schafft 27 Milliarden Parameter auf iPhones." Heise Online, 10. Juli 2026. - o.A. "Start-up PrismML: Bislang „größtes“ lokales KI-Modell fürs iPhone." finanzen.at, 10. Juli 2026. - appletechnikblog. "PrismML: Apple prüft KI-Durchbruch fürs iPhone." appletechnikblog, 9. Juli 2026. - Apfeltalk Redaktion. "Apple prüft Einsatz deutlich größerer KI-Modelle direkt auf dem iPhone." Apfeltalk, 9. Juli 2026. - IT-Boltwise. "IPhone-Edge-KI mit 27 Milliarden Parametern: PrismML und Apples On-Device-Strategie." IT-Boltwise, 10. Juli 2026. - Freddy. "Apple steht offenbar vor dem größten KI-Upgrade für das iPhone." appgefahren.de, 10. Juli 2026. - IT-Boltwise. "KI-Modelle direkt auf dem iPhone: Apple prüft PrismML und Qwen 3.6." IT-Boltwise, 10. Juli 2026. - Redaktion ad-hoc-news.de. "iPhone 17 Pro: Apple testet 27-Milliarden-KI-Modell lokal." ad-hoc-news.de, 10. Juli 2026. - Nico. "Apple will größere KI-Sprachmodelle direkt aufs iPhone bringen." HouseControllers, 10. Juli 2026. - Borncity Redaktion. "iPhone 17 Pro: Apple komprimiert 27-Milliarden-KI-Modell auf 4 GB." Borncity, 9. Juli 2026.