Rückzug von KPMG: Herausforderungen durch KI-Halluzinationen im Unternehmenskontext

Rückzug eines KI-Berichts: KPMG und die Herausforderung der KI-Halluzinationen

In der dynamischen Landschaft der künstlichen Intelligenz (KI) ist die Qualität und Verlässlichkeit von Informationen von entscheidender Bedeutung. Aktuelle Ereignisse rund um einen Bericht des Beratungsunternehmens KPMG verdeutlichen die potenziellen Fallstricke, die mit dem Einsatz von KI-generierten Inhalten einhergehen können. KPMG sah sich gezwungen, einen im Oktober veröffentlichten Bericht mit dem Titel „Exzellenz im Zeitalter agentischer KI neu definieren“ zurückzuziehen, nachdem bekannt wurde, dass dieser Fallstudien enthielt, die auf sogenannten KI-Halluzinationen basierten.

Fehlerhafte Darstellungen und ihre Entdeckung

Der zurückgezogene KPMG-Bericht thematisierte den weltweiten Einsatz von KI in Unternehmen und stellte dabei zahlreiche Behauptungen über die Nutzung von KI auf, die sich als unzutreffend erwiesen. Insbesondere wurden Firmen wie die Schweizer Bank UBS, die Schweizerischen Bundesbahnen (SBB) und der britische National Health Service (NHS) in Fallstudien genannt, deren Darstellung der KI-Nutzung nicht der Realität entsprach.

Ein Beispiel hierfür ist die Behauptung, die UBS würde „KI-Agenten in die Bereiche Anlageberatung, Risikomanagement und Compliance-Überwachung integrieren“. Diese Aussage wurde von einem UBS-Sprecher gegenüber der Financial Times als „sachlich falsch“ zurückgewiesen. Ähnlich verhielt es sich mit den Darstellungen zur SBB, denen zufolge die Bahn KI-Agenten anbiete, die „Nutzer:innn helfen, Reisen basierend auf Präferenzen, Echtzeitbedingungen und CO2-Auswirkungen zu planen, zu buchen und zu optimieren, wodurch die SBB zu einem ganzheitlichen Mobilitätskoordinator wird.“ Auch diese Aussage wurde von Seiten der SBB als „nicht zutreffend“ deklariert.

Die unzutreffenden Inhalte wurden maßgeblich durch die Forschungsgruppe GPTZero identifiziert und anschließend von der Financial Times verifiziert. Nach der Konfrontation mit diesen Erkenntnissen zog KPMG den betreffenden Bericht von seinen Websites zurück.

KPMG's Reaktion und die breitere Problematik

Ein Vertreter von KPMG International betonte die Ernsthaftigkeit, mit der das Unternehmen die Genauigkeit und Integrität seiner veröffentlichten Inhalte betrachte. Es wurde eine interne Untersuchung der Umstände der Veröffentlichung eingeleitet. Gleichzeitig wurde darauf hingewiesen, dass von allen Mitarbeiter:innen die Einhaltung der Richtlinien zum verantwortungsvollen Einsatz von KI erwartet werde, einschließlich der menschlichen Überprüfung zur Validierung von Inhalten und zur Verifizierung unabhängiger Quellen.

Der Fall KPMG ist jedoch kein Einzelfall. Berichten zufolge musste auch die Beratungsfirma EY kürzlich eine Studie zurückziehen, die erfundene Daten, falsch zugeordnete Zitate und Verweise auf nicht existierende Berichte enthielt. Diese Vorfälle werfen grundlegende Fragen zur Qualitätssicherung und zur Rolle menschlicher Kontrolle im Zeitalter der generativen KI auf.

Die Auswirkungen von KI-Halluzinationen auf die Glaubwürdigkeit

Die Identifizierung von Halluzinationen durch KI-Detektoren wie GPTZero unterstreicht die Notwendigkeit robuster Validierungsprozesse. Die Tatsache, dass Berichte großer Beratungsfirmen mit falschen Informationen zitiert und weiterverbreitet werden können, birgt das Risiko sogenannter „Sekundär-Halluzinationen“. Da diese Unternehmen als besonders glaubwürdig gelten, können ihre fehlerhaften Inhalte weitreichende Auswirkungen auf die öffentliche Wahrnehmung und auf geschäftliche Entscheidungen haben.

Das Paradoxon liegt darin, dass viele dieser Beratungsfirmen selbst Dienstleistungen im Bereich des verantwortungsvollen KI-Einsatzes anbieten, einschließlich der Implementierung von Richtlinien zur Fehlervermeidung. Die aktuellen Ereignisse demonstrieren die Komplexität und die Herausforderungen, die selbst für Experten in diesem Feld bestehen.

Parallelen im akademischen Bereich

Die Problematik der halluzinierten Quellen und falschen Zitate ist nicht auf die Unternehmensberatung beschränkt; sie stellt auch im akademischen Bereich ein wachsendes Problem dar. Eine Studie von Forscher:innen der Cornell University und der University of California zeigte auf, dass fast 150.000 gefälschte Zitate in 2,5 Millionen wissenschaftlichen Artikeln identifiziert wurden. Die breite Streuung dieser Fehler deutet darauf hin, dass viele Autor:innen KI-generierte Referenzen ohne ausreichende Prüfung übernehmen.

Auch wenn wissenschaftliche Arbeiten oft weniger öffentlichkeitswirksam sind als Unternehmensberichte, können ihre Ergebnisse weitreichende Konsequenzen haben, da sie die Grundlage für Fortschritte in Medizin, Technologie und anderen Bereichen bilden. Eine mangelnde Überprüfung kann hier zu fehlerhaften Entwicklungen und Investitionen führen.

Reale Konsequenzen falscher Informationen

Die Konsequenzen von Studien, die auf falschen oder "halluzinierten" Inhalten basieren, können weitreichend sein. Im wirtschaftlichen Kontext können Unternehmen, die sich auf solche fehlerhaften Studienergebnisse verlassen, Investitionen in Technologien tätigen, die nicht die versprochenen Vorteile liefern oder sogar zu Fehlentscheidungen führen. Ein Beispiel hierfür ist die erwähnte EY-Studie, die von Berater:innen in Kanada zur Vermarktung von Cybersicherheitsdienstleistungen genutzt worden sein soll.

Die Vorfälle bei KPMG und anderen Beratungsfirmen unterstreichen die kritische Notwendigkeit einer sorgfältigen menschlichen Überprüfung und Validierung von KI-generierten Inhalten. Für eine anspruchsvolle B2B-Zielgruppe, die auf präzise und verlässliche Informationen angewiesen ist, sind solche Ereignisse ein deutliches Signal für die Bedeutung einer robusten KI-Governance und eines kritischen Umgangs mit maschinell erzeugten Daten.

Bibliography: - T3N. (2026, 14. Juni). Wegen halluzinierter Fallstudien: KPMG zieht Bericht zur Nutzung von KI-Agenten zurück. Abgerufen von https://t3n.de/news/wegen-halluzinierter-fallstudien-kpmg-zieht-studie-zur-nutzung-von-ki-agenten-zurueck-1747573/ - The Decoder. (2026, 14. Juni). Blamage für KPMG: Bericht über KI in Unternehmen enthielt erfundene Fallstudien. Abgerufen von https://the-decoder.de/blamage-fuer-kpmg-bericht-ueber-ki-in-unternehmen-enthielt-erfundene-fallstudien/ - FinanzNachrichten.de. (2026, 14. Juni). Wegen halluzinierter Fallstudien: KPMG zieht Bericht zur Nutzung von KI-Agenten zurück. Abgerufen von https://www.finanznachrichten.de/nachrichten-2026-06/68761094-wegen-halluzinierter-fallstudien-kpmg-zieht-bericht-zur-nutzung-von-ki-agenten-zurueck-397.htm - IT-Boltwise. (2026, 14. Juni). KPMG zieht Agentic-KI-Report zurück – Vertrauenskrise bei KI-Governance. Abgerufen von https://www.it-boltwise.de/kpmg-zieht-agentic-ki-report-zurueck-vertrauenskrise-bei-ki-governance.html - IT-Boltwise. (2026, 15. Juni). KPMG zieht KI-Report mit erfundenen Quellen zurück – was das für die Branche heißt. Abgerufen von https://www.it-boltwise.de/kpmg-zieht-ki-report-mit-erfundenen-quellen-zurueck-was-das-fuer-die-branche-heisst.html - Ad-hoc-news.de. (2026, 15. Juni). Big Four in der Krise: KPMG zieht KI-Report mit 40 erfundenen Quellen zurück. Abgerufen von https://www.ad-hoc-news.de/wissenschaft/big-four-in-der-krise-kpmg-zieht-ki-report-mit-40-erfundenen-quellen/69541237 - SWI swissinfo.ch. (2026, 12. Juni). KPMG report contained AI hallucinations on benefits of . . . AI. Abgerufen von https://www.swissinfo.ch/eng/swiss-ai/kpmg-report-contained-ai-hallucinations-on-benefits-of-ai/91574511 - The Register. (2026, 12. Juni). KPMG's AI report turns into a demo of AI hallucinations. Abgerufen von https://www.theregister.com/ai-and-ml/2026/06/12/kpmgs-ai-report-turns-into-a-demo_of_ai_hallucinations/5255029 - CityAM. (2026, 12. Juni). KPMG report on AI found riddled with AI hallucinations. Abgerufen von https://www.cityam.com/kpmg-report-on-ai-found-riddled-with-ai-hallucinations/ - Finance Monthly. (2026, 12. Juni). KPMG AI Report Hallucinations — UBS NHS TfL. Abgerufen von https://www.finance-monthly.com/kpmg-ai-report-hallucinations-ubs-nhs-transport-for-london/