KI-gestützte Entscheidungsunterstützung in der Onkologie: Ein neuer Ansatz mit OncoAgent

Revolutionäre KI in der Onkologie: Einblicke in OncoAgent

Die Onkologie, ein Bereich von immenser Komplexität und Dichte an Informationen, steht vor der Herausforderung, die rasante Entwicklung evidenzbasierter Leitlinien mit der klinischen Praxis in Einklang zu bringen. Künstliche Intelligenz (KI) bietet hier transformative Potenziale, doch bisherige kommerzielle Systeme zeigten oft Defizite in Bezug auf die Genauigkeit der Empfehlungen, die Abhängigkeit von Cloud-Infrastrukturen und die Skalierbarkeit bei komplexen Fällen. Mit OncoAgent, einem innovativen, quelloffenen und datenschutzfreundlichen System zur klinischen Entscheidungsunterstützung, wird ein neuer Ansatz verfolgt, der diese Limitationen adressiert.

Architektur und Funktionsweise: Ein Dual-Tier-Ansatz

OncoAgent zeichnet sich durch eine duale, feinabgestimmte LLM-Architektur (Large Language Model) aus, die in eine Multi-Agenten-LangGraph-Topologie integriert ist. Diese Struktur ermöglicht eine effiziente Verarbeitung klinischer Anfragen unter Berücksichtigung strenger Datenschutzrichtlinien.

Die zweistufige Modell-Architektur

Das Herzstück von OncoAgent bildet ein zweistufiges System von LLMs:

• Tier 1 (9B Parameter): Ein auf Geschwindigkeit optimiertes Modell, das für die schnelle Triage von Anfragen mit geringerer Komplexität eingesetzt wird.
• Tier 2 (27B Parameter): Ein umfassenderes Modell für tiefergehende Analysen, das bei komplexeren Fällen zum Einsatz kommt.

Die Zuweisung zu einer der beiden Stufen erfolgt über einen gewichteten Komplexitätsscore, der Faktoren wie Krebsart, Stadium, Mutationen und Vorbehandlungen berücksichtigt. Dies ermöglicht eine bedarfsgerechte und ressourceneffiziente Bearbeitung klinischer Anfragen.

Datenschutz als Grundpfeiler: Die Zero-PHI-Richtlinie

Ein herausragendes Merkmal von OncoAgent ist seine konsequente Zero-PHI-Richtlinie (Protected Health Information). Bevor Textdaten ein LLM erreichen, durchlaufen sie einen speziellen Redaktionsknoten, der sensible Patientendaten (wie Namen, Geburtsdaten, Adressen) durch klinisch neutrale Platzhalter ersetzt. Diese Vorgehensweise stellt sicher, dass keine personenbezogenen Gesundheitsinformationen an nachgeschaltete LLM-Aufrufe – weder lokal noch extern – gelangen, wodurch die HIPAA-Anforderungen und ähnliche Datenschutzbestimmungen erfüllt werden.

Wissensbasis und RAG-Pipeline

Die Wissensbasis von OncoAgent wurde aus über 70 professionellen onkologischen Leitlinien, darunter die des National Comprehensive Cancer Network (NCCN) und der European Society for Medical Oncology (ESMO), erstellt. Eine vierstufige Retrieval-Augmented Generation (RAG)-Pipeline ist integriert, um die Modellantworten auf diese kuratierten Leitlinien zu stützen und das Risiko von Halluzinationen zu minimieren. Diese Pipeline umfasst:

• Recall (Abruf): Bi-Encoder-Modelle (z.B. PubMedBERT) identifizieren relevante Dokumente.
• Distance Gate (Distanzschranke): Ein Cosinus-Distanzfilter verhindert den Abruf semantisch irrelevanter Inhalte.
• Re-Ranking: Ein Cross-Encoder ordnet die Relevanz von Abfrage und Dokument neu.
• Context Trimming (Kontextkürzung): Begrenzt die Zeichenanzahl, um in das Kontextfenster des LLM zu passen.

Zusätzlich wird ein optionales Hypothetical Document Embeddings (HyDE)-Modul verwendet, um Synonyme in medizinischen Fachbegriffen aufzulösen und die Abrufgenauigkeit zu verbessern.

Sicherheitsmechanismen und "Human-in-the-Loop"

Die Sicherheit des Systems wird durch eine mehrschichtige Architektur gewährleistet, die das Versagen einer einzelnen Ebene kompensieren kann:

• Retrieval Gate und Confidence Gate: Überprüfen die Qualität und Relevanz der abgerufenen Informationen.
• Reflexions-Sicherheitsschleife (Critic Node): Dieser Knoten führt eine dreistufige Validierung durch, die Formatierung, Sicherheit und die Übereinstimmung der Empfehlungen mit dem abgerufenen Kontext überprüft. Bei Fehlern wird ein erneuter Versuch mit spezifischem Feedback eingeleitet.
• Human-in-the-Loop (HITL) Gate: Bei komplexen Fällen oder geringer RAG-Konfidenz löst dieses Gate eine obligatorische Überprüfung durch einen Kliniker aus. Im Falle eines nicht behebbaren Fehlers greift ein Fallback-Knoten ein, der eine klinisch sichere Ablehnung formuliert, anstatt halluzinierte Alternativen zu generieren.

Hardware-Souveränität und Effizienz

Die vollständige Trainings- und Inferenz-Pipeline von OncoAgent läuft nativ auf AMD Instinct MI300X Hardware unter Verwendung von ROCm und Open-Source-Frameworks. Dies ermöglicht eine lokale Bereitstellung im Krankenhausumfeld, wodurch die Abhängigkeit von proprietären Cloud-APIs entfällt und die Datenhoheit der Patienten gewahrt bleibt. Die Feinabstimmung der Modelle mittels QLoRA auf einem Korpus von 266.854 Fällen konnte in etwa 50 Minuten abgeschlossen werden, was einer 56-fachen Beschleunigung im Vergleich zu API-basierten Generierungen entspricht. Diese Durchbruchleistung wurde durch die Kombination von Unsloths Triton-Kernel-Optimierungen und Sequence Packing erreicht.

Klinische Schnittstelle und Transparenz

Die Benutzeroberfläche von OncoAgent ist eine Echtzeit-Streaming-Gradio-Anwendung, die ein konversationelles Layout im Stil von ChatGPT aufweist. Sie bietet Klinikerinnen und Klinikern volle Transparenz über den Denkprozess des Systems. Updates zum agentischen Reasoning werden live angezeigt, und die RAG-Konfidenzwerte sowie die Anzahl der abgerufenen Quellen sind prominent sichtbar. Das Interface wurde gemäß WCAG 2.1 AA Standards entwickelt, um hohe Benutzerfreundlichkeit und Zugänglichkeit zu gewährleisten.

Fazit und Ausblick

OncoAgent stellt eine umfassende, quelloffene und datenschutzfreundliche Architektur zur klinischen Entscheidungsunterstützung in der Onkologie dar. Es integriert modernste Multi-Agenten-Designmuster, domänenspezifische Feinabstimmung und eine vierstufige, fundierte Abruf-Pipeline. Das System demonstriert, dass eine produktionsreife klinische KI ohne proprietäre Infrastruktur realisierbar ist und einen replizierbaren Bauplan für domänenspezifische klinische KI-Implementierungen bietet, bei denen die Konsequenzen von Halluzinationen lebensentscheidend sein können. Zukünftige Arbeiten könnten die Validierung der klinischen Genauigkeit durch zertifizierte Onkologen in größerem Maßstab, die Erweiterung der Wissensbasis um weitere Leitlinien und Sprachen sowie die Integration adaptiver Margenstrategien umfassen.

Bibliografie

• Shi, W. et al. (2024). Corrective Retrieval Augmented Generation. arXiv:2401.15884.
• Shinn, N. et al. (2023). Reflexion: Language agents with verbal reinforcement learning. NeurIPS 2023.
• Nogueira, R. and Cho, K. (2019). Passage Re-ranking with BERT. arXiv:1901.04085.
• Gao, L. et al. (2022). Precise Zero-Shot Dense Retrieval without Relevance Labels. arXiv:2212.10496.
• Dettmers, T. et al. (2023). QLoRA: Efficient Finetuning of Quantized LLMs. NeurIPS 2023.
• Han, S. et al. (2024). LangGraph: Building stateful multi-actor applications with LLMs. LangChain Technical Report.
• Singhal, K. et al. (2023). Large language models encode clinical knowledge. Nature, 620, 172–180.
• Wang, L. et al. (2024). A survey on large language model based autonomous agents. Frontiers of Computer Science, 18(6), 186345.
• Kim, Y. J. et al. (2026). A Guideline-Aware AI Agent for Zero-Shot Target Volume Auto-Delineation. arXiv:2603.09448.
• López Chenlo, M. (2026). OncoAgent: A Dual-Tier Multi-Agent Framework for Privacy-Preserving Oncology Clinical Decision Support. Hugging Face Blog.