Mehr KI-Erklärungen können die Genauigkeit der Krebsdiagnose verringern

In den letzten Jahren hat sich KI zu einem leistungsstarken Werkzeug zur Analyse medizinischer Bilder entwickelt. Dank der Fortschritte in der Datenverarbeitung und großen medizinischen Datensätzen, aus denen KI lernen kann, hat sie sich als wertvolles Hilfsmittel beim Lesen und Analysieren von Mustern in Röntgen-, MRT- und CT-Scans erwiesen und ermöglicht es Ärzten, bessere und schnellere Entscheidungen zu treffen, insbesondere bei der Behandlung und Diagnose lebensbedrohlicher Krankheiten wie Krebs. In bestimmten Situationen bieten diese KI-Tools sogar Vorteile gegenüber ihren menschlichen Gegenstücken.

„KI-Systeme können Tausende von Bildern schnell verarbeiten und viel schneller Vorhersagen liefern als menschliche Prüfer“, sagt Onur Asan, außerordentlicher Professor am Stevens Institute of Technology, dessen Forschung sich auf die Mensch-Computer-Interaktion im Gesundheitswesen konzentriert. „Im Gegensatz zu Menschen wird KI mit der Zeit nicht müde oder verliert den Fokus.“

Dennoch betrachten viele Kliniker die KI zumindest mit einem gewissen Maß an Misstrauen, vor allem weil sie nicht wissen, wie sie zu ihren Vorhersagen kommt – ein Problem, das als „Black-Box“-Problem bekannt ist. „Wenn Ärzte nicht wissen, wie KI ihre Vorhersagen generiert, ist es weniger wahrscheinlich, dass sie ihr vertrauen“, sagt Asan. „Deshalb wollten wir herausfinden, ob die Bereitstellung zusätzlicher Erklärungen Ärzten helfen kann und wie unterschiedliche Grade der KI-Erklärbarkeit die Diagnosegenauigkeit sowie das Vertrauen in das System beeinflussen.“

Zusammen mit seiner Doktorandin Olya Rezaeian und dem Assistenzprofessor Alparslan Emrah Bayrak an der Lehigh University führte Asan eine Studie mit 28 Onkologen und Radiologen durch, die KI zur Analyse von Brustkrebsbildern verwendeten. Den Ärzten wurden außerdem verschiedene Erklärungsebenen für die Beurteilungen des KI-Tools zur Verfügung gestellt. Am Ende beantworteten die Teilnehmer eine Reihe von Fragen, um ihr Vertrauen in die KI-generierte Bewertung und die Schwierigkeit der Aufgabe einzuschätzen.

Das Team stellte fest, dass KI die diagnostische Genauigkeit für Ärzte gegenüber der Kontrollgruppe zwar verbesserte, es gab jedoch einige interessante Vorbehalte.

Die Studie ergab, dass ausführlichere Erklärungen nicht unbedingt zu mehr Vertrauen führen. „Wir haben herausgefunden, dass mehr Erklärbarkeit nicht gleichbedeutend mit mehr Vertrauen ist“, sagt Asan. Denn das Hinzufügen zusätzlicher oder komplexerer Erklärungen erfordert, dass Ärzte zusätzliche Informationen verarbeiten müssen, was ihnen Zeit und Konzentration von der Analyse der Bilder nimmt. Wenn die Erklärungen ausführlicher waren, brauchten die Ärzte länger, um Entscheidungen zu treffen, was ihre Gesamtleistung beeinträchtigte.

Die Verarbeitung weiterer Informationen führt zu einer höheren kognitiven Arbeitsbelastung für Ärzte. Es erhöht auch die Wahrscheinlichkeit, dass sie Fehler machen und dem Patienten möglicherweise schaden. Sie möchten die kognitive Belastung der Benutzer nicht erhöhen, indem Sie weitere Aufgaben hinzufügen.“

Onur Asan, außerordentlicher Professor, Stevens Institute of Technology

Asans Forschung ergab außerdem, dass Kliniker der KI in einigen Fällen zu sehr vertrauten, was dazu führen konnte, dass wichtige Informationen auf Bildern übersehen wurden und den Patienten Schaden zufügte. „Wenn ein KI-System nicht gut konzipiert ist und einige Fehler macht, während die Benutzer großes Vertrauen in das System haben, kann es sein, dass einige Kliniker blind darauf vertrauen, dass alles, was die KI vorschlägt, wahr ist, und die Ergebnisse nicht ausreichend hinterfragen“, sagt Asan.

Das Team legte seine Ergebnisse in zwei aktuellen Studien dar: Der Einfluss von KI-Erklärungen auf das Vertrauen und die diagnostische Genauigkeit von Ärzten bei Brustkrebsveröffentlicht im Journal of Angewandte Ergonomie am 1. November 2025 und Erklärbarkeit und KI-Vertrauen in klinischen Entscheidungsunterstützungssystemen: Auswirkungen auf Vertrauen, Diagnoseleistung und kognitive Belastung in der Brustkrebsversorgungveröffentlicht in der Internationale Zeitschrift für Mensch-Computer-Interaktion am 7. August 2025.

Asan glaubt, dass KI weiterhin ein hilfreicher Assistent für Ärzte bei der Interpretation medizinischer Bildgebung sein wird, aber solche Systeme müssen mit Bedacht aufgebaut werden. „Unsere Ergebnisse legen nahe, dass Designer beim Einbau von Erklärungen in die KI-Systeme Vorsicht walten lassen sollten“, sagt er, damit die Verwendung nicht zu umständlich wird. Außerdem, fügt er hinzu, sei eine angemessene Schulung der Benutzer erforderlich, da weiterhin eine menschliche Aufsicht erforderlich sei. „Ärzte, die KI verwenden, sollten eine Ausbildung erhalten, die den Schwerpunkt auf die Interpretation der KI-Ergebnisse legt und nicht nur darauf, ihr zu vertrauen.“

Letztendlich sollte ein gutes Gleichgewicht zwischen Benutzerfreundlichkeit und Nutzen der KI-Systeme bestehen, stellt Asan fest. „Untersuchungen haben ergeben, dass es zwei Hauptparameter dafür gibt, ob eine Person jede Form von Technologie nutzt – den wahrgenommenen Nutzen und die wahrgenommene Benutzerfreundlichkeit“, sagt er. „Wenn Ärzte also denken, dass dieses Tool für ihre Arbeit nützlich und einfach zu bedienen ist, werden sie es verwenden.“

Quellen: