ChatGPT übertrifft menschliche Authentizität, Relevanz und Kohärenz in politischer Debatte

In einer jüngsten Studie der Universität Passau wurde festgestellt, dass britische Bürger KI-generierte Antworten in politischen Debatten als authentischer und relevanter empfinden als die tatsächlichen Antworten von öffentlichen Persönlichkeiten. Diese Erkenntnis wirft bedeutende Fragen über die Rolle und das Potenzial von Künstlicher Intelligenz (KI) in der politischen Kommunikation auf.

Hintergrund der Studie

Die Studie basierte auf einer Umfrage unter 948 britischen Bürgern, die Fragen und Antworten aus dem BBC-Programm "Question Time" sowie von GPT-4 Turbo generierte Antworten bewerteten. Diese Antworten wurden den Teilnehmern ohne Quellenangabe präsentiert und den öffentlichen Persönlichkeiten zugeschrieben.

Die Forscher stellten fest, dass die von großen Sprachmodellen (LLMs) generierten, nachgeahmten Inhalte als authentischer, kohärenter und relevanter beurteilt wurden als die tatsächlichen Debattenantworten. Diese Ergebnisse werfen ein Licht auf die zunehmende Akzeptanz und das Vertrauen in KI-generierte Inhalte, selbst in so kritischen Bereichen wie der politischen Kommunikation.

Unterschiede in der Sprachverwendung

Eine linguistische Analyse zeigte Unterschiede in der Sprachverwendung zwischen den tatsächlichen und den KI-generierten Antworten. Letztere enthielten mehr Nominalisierungen, eine größere lexikalische Vielfalt und eine höhere Übereinstimmung mit den Wörtern aus den Fragen. Die echten Antworten enthielten häufiger Phrasen wie "Ich denke".

Diese Unterschiede könnten erklären, warum die KI-Antworten als authentischer wahrgenommen wurden, da sie möglicherweise präziser und direkter auf die Fragen eingehen.

Potenzial für Missbrauch

Die Forscher warnen auch vor dem potenziellen Missbrauch von LLMs: "Bedrohungsakteure können LLMs leicht nutzen, um öffentliche Informationssphären mit falschen, aber authentischen politischen Aussagen zu verschmutzen, z.B. um Verwirrung über tatsächliche Äußerungen zu stiften und neue Gesprächspunkte zu erfinden."

Über 85% der Studienteilnehmer waren der Meinung, dass der Einsatz von KI in öffentlichen Debatten transparent sein sollte und Informationen über die Entwicklung von KI geteilt werden sollten.

Empfehlungen und Bildungsbedarf

Die Forscher betonen die Notwendigkeit, die Öffentlichkeit über die modernen Fähigkeiten von KI aufzuklären. Viele Teilnehmer unterschätzten zunächst das Potenzial der Technologie. Nach der Aufklärung über den Einsatz von KI zeigten sie eine größere Wertschätzung für die Fähigkeiten der KI, aber auch ein vermehrtes Bedürfnis nach Regulierung.

Diese Ergebnisse unterstützen eine Warnung von OpenAI-CEO Sam Altman, der sagte, dass KI letztendlich übermenschliche Überzeugungskraft erlangen werde und dies zu einigen sehr merkwürdigen Ergebnissen führen könnte.

Vergleichsstudie aus Italien und der Schweiz

Eine weitere Studie der École polytechnique fédérale de Lausanne (EPFL) und der italienischen Fondazione Bruno Kessler stellte fest, dass GPT-4, mit Zugang zu persönlichen Informationen, die Zustimmung der Teilnehmer zu den Argumenten ihrer Gegner um bemerkenswerte 81,7 Prozent erhöhen konnte, verglichen mit Debatten zwischen Menschen.

Schlussfolgerungen

Die Ergebnisse dieser Studien unterstreichen das Potenzial und die Herausforderungen von KI in der politischen Kommunikation. Während KI-generierte Inhalte als authentischer und relevanter empfunden werden können, besteht ein erhebliches Risiko für Missbrauch und Desinformation. Es ist daher entscheidend, dass die Öffentlichkeit über die Fähigkeiten und Grenzen von KI aufgeklärt wird und dass Transparenz und Regulierung bei der Nutzung von KI in politischen Debatten gewährleistet sind.

Quellen

https://www.sciencedirect.com/science/article/pii/S0268401223000233

https://www.researchgate.net/publication/371799069_ChatGPT_vs_Bard_A_Comparative_Study

https://onlinelibrary.wiley.com/doi/full/10.1002/eng2.12890

https://mediaengagement.org/research/generative-ai-elections-and-beyond/

https://www.sciencedirect.com/science/article/pii/S2666449623000397

https://www.nature.com/articles/s41598-024-53124-x

https://www.brookings.edu/articles/the-politics-of-ai-chatgpt-and-political-bias/

https://link.springer.com/article/10.1007/s10579-019-09446-8

https://www.researchgate.net/publication/369379229_Synthetic_Lies_Understanding_AI-Generated_Misinformation_and_Evaluating_Algorithmic_and_Human_Solutions