Neuropsychologische Erkenntnisse zur Mensch-KI-Interaktion und Vertrauen
Inhaltsverzeichnis
Optimieren Sie Prozesse, automatisieren Sie Workflows und fördern Sie Zusammenarbeit – alles an einem Ort.
Das Wichtigste in Kürze
- Forschende der TU Berlin haben mittels EEG untersucht, wie das menschliche Gehirn auf die Zusammenarbeit mit KI reagiert.
- Die Studien zeigen, dass bei der Nutzung von zuverlässiger KI eine reduzierte Gehirnaktivität in Bereichen der Aufmerksamkeit und des Kurzzeitgedächtnisses feststellbar ist, was auf "kognitives Offloading" hindeutet.
- Kognitives Offloading beschreibt die Auslagerung geistiger Prozesse an ein externes System, in diesem Fall an eine KI.
- Die Zuverlässigkeit der KI ist ein entscheidender Faktor: Bei zuverlässigen Systemen "entspannt" sich das Gehirn, bei fehleranfälligen Systemen steigt die eigene Aufmerksamkeit.
- Die Ergebnisse haben Relevanz für sicherheitskritische Bereiche wie die medizinische Diagnostik oder industrielle Qualitätskontrolle, wo fehlkalibriertes Vertrauen schwerwiegende Folgen haben kann.
- Zukünftige Forschung konzentriert sich auf die Verknüpfung der neuronalen Messdaten mit Vertrauensmodellen und die Entwicklung adaptiver KI-Systeme.
Neuronale Einblicke: Wie unser Gehirn auf die Zusammenarbeit mit KI reagiert
Die fortschreitende Integration Künstlicher Intelligenz (KI) in zahlreiche Lebens- und Arbeitsbereiche wirft grundlegende Fragen zur Mensch-KI-Interaktion auf. Eine zentrale Rolle spielt dabei das Vertrauen, das Menschen in diese Systeme setzen. Forschende der Technischen Universität Berlin haben in einem DFG-geförderten Projekt innovative Wege beschritten, um dieses Phänomen zu untersuchen. Ihre Arbeit beleuchtet, wann und wie sich unser Gehirn auf KI-Systeme verlässt und dabei kognitive Aufgaben auslagert.
Kognitives Offloading: Eine neuronale Perspektive auf Vertrauen
Im Mittelpunkt der Untersuchung steht das Konzept des kognitiven Offloadings. Dies beschreibt den Prozess, bei dem Menschen kognitive Funktionen wie Aufmerksamkeit oder Gedächtnis an externe Systeme delegieren. Wenn beispielsweise ein Navigationssystem die Routenplanung übernimmt, lagern wir einen Teil unserer Orientierungsfähigkeiten aus. Die Berliner Forschenden gehen der Frage nach, inwiefern sich ein solches Offloading auch bei der Interaktion mit KI-Systemen beobachten lässt und ob es als Indikator für Vertrauen dienen kann.
Anders als bei traditionellen Methoden, die auf subjektiven Befragungen oder Verhaltensbeobachtungen basieren, setzten die Wissenschaftler auf die Messung der Gehirnaktivität mittels Elektroenzephalogramm (EEG). Dieses Verfahren ermöglicht die schmerzfreie Erfassung elektrischer Hirnströme mit hoher zeitlicher Präzision und liefert objektive Daten über Veränderungen in der Aufmerksamkeit und Gedächtnisarbeit.
Die Rolle der KI-Zuverlässigkeit für kognitives Offloading
Die ersten Ergebnisse des Forschungsprojekts, die in zwei Studien veröffentlicht wurden, bieten detaillierte Einblicke in die neuronalen Korrelate von Vertrauen:
- Messung der visuellen Aufmerksamkeit (N2pc-Komponente): Eine der Studien untersuchte die N2pc-Komponente, einen neuronalen Marker für visuelle selektive Aufmerksamkeit. Es zeigte sich, dass die Amplitude dieses Hirnsignals systematisch mit der Zuverlässigkeit der eingesetzten KI variiert. Arbeiteten Probanden mit einer verlässlichen KI, war die N2pc-Amplitude geringer. Dies deutet darauf hin, dass das Gehirn weniger eigene Aufmerksamkeitsressourcen beansprucht und stärker auf die KI vertraut, was zu einer gewissen "Entspannung" führt. War die KI hingegen fehleranfällig, erhöhte sich die N2pc, was auf eine stärkere eigene Kontrolle und ein geringeres Vertrauen hindeutet.
- Messung des visuellen Kurzzeitgedächtnisses (CDA-Komponente): Eine weitere Studie konzentrierte sich auf die CDA (Contralateral Delay Activity), einen neuronalen Marker für die Belastung des visuellen Kurzzeitgedächtnisses. Die Forschenden konnten zeigen, dass die CDA-Werte zur Abbildung von Vertrauensverläufen genutzt werden können. Je nach Stärke oder Schwäche der CDA ließ sich erkennen, wann Vertrauen gegenüber der KI aufgebaut, gebrochen oder wiederhergestellt wurde.
Diese Erkenntnisse legen nahe, dass die "objektive" Kompetenz eines KI-Systems einen direkten Einfluss darauf hat, wie stark Menschen kognitive Prozesse an die Technologie auslagern. Eine zuverlässige KI führt zu einem entspannteren Gehirn und einer geringeren eigenen kognitiven Beanspruchung, während eine unzuverlässige KI die Aufmerksamkeit und Kontrollfunktion des Menschen erhöht.
Implikationen für die Praxis und zukünftige Forschung
Die Ergebnisse der TU Berlin sind besonders relevant für Bereiche, in denen Mensch und KI in sicherheitskritischen Kontexten zusammenarbeiten. Dazu gehören beispielsweise die medizinische Diagnostik, die Qualitätskontrolle in der Industrie oder der Verkehr. In solchen Feldern kann ein "fehlkalibriertes" Vertrauen gravierende Folgen haben:
- Übervertrauen: Ein zu hohes Vertrauen in die KI kann dazu führen, dass Fehler ungeprüft übernommen werden, was das Fehlerrisiko erhöht.
- Misstrauen: Ein zu geringes Vertrauen kann die Effizienz leistungsfähiger Systeme mindern, da Menschen die Ergebnisse unnötig stark kontrollieren und somit das Potenzial der KI nicht voll ausschöpfen.
Das Forschungsprojekt liefert eine neue Grundlage, um Vertrauen in KI objektiv und kontinuierlich zu messen, ohne die laufende Aufgabe zu unterbrechen. Dies könnte langfristig dazu beitragen, KI-Systeme nicht nur besser zu bewerten, sondern auch gezielter zu gestalten.
In den nächsten Schritten planen die Forschenden, die gewonnenen neuronalen Messdaten mit bestehenden Vertrauensmodellen zu verknüpfen. Dabei sollen Faktoren wie die wahrgenommene Leistungsfähigkeit der KI, das empfundene Risiko und die Transparenz des Systems genauer untersucht werden. Ein weiterer Fokus liegt auf der Analyse von Vertrauensdynamiken, beispielsweise wie sich Vertrauen nach Systemfehlern wiederherstellen lässt. Letztendlich zielt die Forschung auf die Entwicklung adaptiver KI-Systeme ab, die sich an das Verhalten der Nutzer anpassen und diese gezielt in Phasen hoher kognitiver Belastung unterstützen können. Das Ziel ist eine belastbare Vertrauenskultur im Umgang mit KI.
Bibliographie
- idw-online.de. (2022, 9. März). TU Berlin: Menschen vertrauen mehr dem Menschen als KI-Systemen. Abgerufen von https://idw-online.de/de/news789775
- t3n.de. (2026, 28. April). Kognitives Offloading: Wann dein Gehirn auf Sparflamme schaltet, wenn du KI nutzt. Abgerufen von https://t3n.de/news/kognitives-offloading-wann-dein-gehirn-auf-sparflamme-schaltet-wenn-du-ki-nutzt-1740131/
- t3n.de. (2026, 30. April). Wie sehr vertraust du KI? Dein Gehirn verrät es – auch ohne dass du es weißt. Abgerufen von https://t3n.de/news/tu-berlin-gehirn-ki-verlassen-1740131/
- tu.berlin. (2025, 22. Oktober). Wenn Menschen KI-Entscheidungen verschlimmbessern. Abgerufen von https://www.tu.berlin/go239617/n78190/
- tu.berlin. (2026, 23. April). Erstmals im EEG sichtbar: Wie Vertrauen in KI entsteht. Abgerufen von https://www.tu.berlin/news/detail/erstmals-im-eeg-sichtbar-wie-vertrauen-in-ki-entsteht
- tu.berlin. (2026, 23. April). Erstmals im EEG sichtbar: Wie Vertrauen in KI entsteht. Abgerufen von https://www.tu.berlin/kke/nachrichtendetails/default-63011e470f733cca70fb331825f7e30e
Artikel jetzt als Podcast anhören
.svg){kind=logo}
.png){kind=logo}
