Telekommunikation trifft Künstliche Intelligenz: China Telecoms Revolution mit TeleChat
Die Welt der Telekommunikation und der künstlichen Intelligenz erlebt eine weitere bemerkenswerte Entwicklung, die das Potential hat, die Art und Weise, wie Unternehmen und Verbraucher interagieren, zu revolutionisieren. China Telecom hat kürzlich einen technischen Bericht über TeleChat vorgestellt, eine Sammlung von großangelegten Sprachmodellen (Large Language Models, LLMs), die Parameter von 3 Milliarden, 7 Milliarden und 12 Milliarden besitzen. Diese beeindruckende Entwicklung umfasst sowohl vortrainierte Sprachmodelle als auch feinabgestimmte Chat-Modelle, die auf menschliche Präferenzen ausgerichtet sind.
TeleChat wurde zunächst anhand eines umfangreichen Textkorpus vortrainiert, das eine vielfältige Sammlung von Texten in englischer und chinesischer Sprache umfasst und Billionen von Tokens enthält. Im Anschluss wurde das Modell feinabgestimmt, um es an menschliche Vorlieben anzupassen, wobei eine detaillierte Methodik verfolgt wurde. Das LLM wurde in einer Reihe von Aufgaben getestet, darunter Sprachverständnis, Mathematik, Argumentation, Code-Generierung und wissensbasierte Fragebeantwortung. Die Ergebnisse zeigen, dass TeleChat eine vergleichbare Leistung zu anderen Open-Source-Modellen ähnlicher Größe über ein breites Spektrum öffentlicher Benchmarks hinweg erzielt.
Die Veröffentlichung der feinabgestimmten Modell-Checkpoints von TeleChats 7B- und 12B-Varianten, zusammen mit dem Code und einem Teil der Vortrainingsdaten, soll die zukünftige Forschung und Anwendungen, die LLMs nutzen, unterstützen. Die Freigabe dieser Ressourcen an die öffentliche Gemeinschaft ist ein Schritt, der die Entwicklung und Implementierung von KI-gestützten Systemen vorantreiben könnte.
China Telecom hofft, dass der Ansatz, den sie bei der Entwicklung von GenAI-basierten großen Sprachmodellen für autonome Netzwerke verfolgt haben, es ihnen ermöglichen wird, die Fallstricke von generativen KI-Systemen wie ChatGPT zu vermeiden. Bei der Konzeption von TeleChat wurde darauf geachtet, dass es nicht mit den Einschränkungen und Risiken behaftet ist, die mit anderen KI-basierten Sprachmodellen verbunden sind, wie zum Beispiel der Tendenz, Antworten zu erfinden. Die Frage, ob LLMs überhaupt in so geschäftskritischen und von Zuverlässigkeit abhängigen Bereichen wie dem autonomen Netzwerkbetrieb eingesetzt werden sollten, hängt ganz davon ab, wie die LLM-Funktionalität genutzt wird.
Qian Bing, Forschungs- und Entwicklungsleiter bei China Telecom, erläutert in einem Interview, dass der Betreiber sein eigenes KI-basiertes System aufbaut, um die Ursachen von Störungen in seinem Netzwerk zu analysieren und zu beheben. Im Gegensatz zu ChatGPT wird das System von China Telecom nicht auf das öffentliche Internet losgelassen. Stattdessen verwendet China Telecom einen ChatGPT-ähnlichen Ansatz zur Textanalyse und Antwortgenerierung, jedoch in Verbindung mit seinem eigenen Wissensgraphen.
Ein Wissensgraph ist die Verbindung von strukturierten und unstrukturierten Daten, um Anwendungen wie Wissensabruf, Wissensschlussfolgerung und intelligente Fragen und Antworten zu ermöglichen. Diese Kombination aus Wissensgraph und LLM ermöglicht es, Antworten zu finden und zu ergänzen, die über den Wissensgraphen hinausgehen, indem Informationen zusammengefasst werden, die zuvor nicht extrahiert wurden. Das LLM kann also dort ergänzen, wo der Wissensgraph an seine Grenzen stößt.
China Telecom hat bereits von der Verwendung großer Wissensgraphen profitiert, indem es Kausalbeziehungen zwischen separaten Netzwerkfehlern zu verschiedenen Zeiten identifizieren konnte, was die Genauigkeit seiner Vorhersagen verbessert hat. Die Kombination aus Wissensgraphen und LLMs bietet somit eine verbesserte Verständnisgrundlage für das, was im Netzwerk vor sich geht, und stärkt die Grundlage für die Antworten des Systems.
Die Weiterentwicklung autonomer Netzwerke schreitet bei China Telecom stetig voran. Derzeit hat das Unternehmen etwa 7 von 100 verschiedenen Szenarien für den drahtlosen Netzwerkbetrieb auf Stufe vier der Automatisierung erreicht, wobei die meisten Szenarien heute auf Stufe zwei oder drei liegen. Das Ziel ist es, bis Ende 2025 die volle Autonomie der Stufe vier für einen Großteil des drahtlosen Netzwerks zu erreichen.
Zusätzlich untersucht der Betreiber, wie er die Ergebnisse seiner autonomen Netzwerkmodelle auf ein digitales Zwillingsmodell anwenden könnte. Ein digitaler Zwilling des Netzwerks ermöglicht es, zu simulieren und zu visualisieren, wie sich Änderungen an Faktoren wie der Position und Nutzung von Netzwerkelementen, Kundenaktivitäten und Umweltbedingungen auf die Gesamtleistung des Netzwerks auswirken. Diese Erkenntnisse könnten dann genutzt werden, um reale Netzwerke zu optimieren und das Kundenerlebnis zu verbessern.
Die Herausforderung für China Telecom besteht darin, genaue und vielschichtige Daten zu erfassen, um einen digitalen Zwilling eines realen Netzwerks zu erschaffen. Einige Faktoren, wie Gewitter oder der Bau eines Gebäudes in der Nähe einer Basisstation, liegen jedoch außerhalb der Kontrolle des Betreibers.
Während ein digitaler Zwilling ein wünschenswertes Ziel ist, ist er nicht entscheidend für die Erreichung des Ziels der Stufe-4-Netzwerkautonomie. Dringender ist es jedoch, sicherzustellen, dass die Mitarbeiter verstehen und die Bewegung hin zu autonomen Netzwerken unterstützen. China Telecom ist zuversichtlich, dass es bis 2025 die meisten Szenarien der Stufe 4 erreichen kann, indem es Strategien und Technologien entwickelt, Marketing und Förderung vorantreibt und die Arbeitsteilung zwischen den Teams fördert, um dieses Ziel zu erreichen.
