Online-Informationen über künstliche Intelligenz (KI) und ihre Auswirkungen auf die Krebsforschung und -behandlung sowohl für Patienten als auch für die breite Öffentlichkeit sind begrenzt, und die verfügbaren Webseiten und Videos sind größtenteils von geringer Qualität, schwer zu lesen und lassen häufig Risiken der KI-Nutzung außer Acht. Dies geht aus einer neuen Studie hervor, die heute auf der Jahrestagung der American Society of Clinical Oncology (ASCO) 2026 vorgestellt wurde (Abstract 9000) und von Forschern des Abramson Cancer Center (ACC) der University of Pennsylvania geleitet wurde Penn’s Perelman School of Medicine.

Die Forschung verdeutlicht die Möglichkeit, besser zugängliche, qualitativ hochwertige Ressourcen zu schaffen, da KI zunehmend in die Krebsforschung und Patientenversorgung integriert wird und von Patienten genutzt wird, um ihre Diagnose, Behandlungsoptionen und Prognose zu verstehen.

In der Klinik hören wir ständig von Patienten, die uns nach etwas fragen, was ihnen ein KI-Tool gesagt hat, sodass wir wissen, dass Patienten diese neue Technologie nutzen. Ärzte sind es gewohnt, Patienten über die Risiken einer Behandlung aufzuklären, nicht jedoch über die Risiken von Fehlinformationen, die mit dem Einsatz von KI-Tools im Rahmen ihrer Krebsbehandlung einhergehen könnten. Unser Ziel war es, ein grundlegendes Verständnis davon zu erhalten, was Patienten online finden würden, wenn sie nach Informationen über den Einsatz von KI suchen würden, um mehr über ihre Krebsbehandlung zu erfahren.“

Henry Litt, MD, Hämatologie-Onkologie-Fellow, leitender Autor der Studie

Die meisten Online-Informationen zu KI und Krebsbehandlung sind von schlechter Qualität und schwer zu verstehen

Das Forschungsteam unter der Leitung der Assistenzärztin für Innere Medizin Pearl Subramanian, MD, untersuchte die ersten 320 Webseiten und Videos, die durch Google- und YouTube-Suchen anhand gängiger Schlüsselwörter im Zusammenhang mit Krebs und KI identifiziert wurden. Der Webinhalt umfasste alles von Nachrichtenartikeln bis hin zu Geschichten, die auf Websites von Krankenhäusern und Gesundheitsorganisationen veröffentlicht wurden, sowie von Regierungsbehörden und medizinischen Fachgesellschaften veröffentlichte Bildungsressourcen, Influencer-Videos und mehr.

Nach der Entfernung von Inhalten, die für KI und Krebsbehandlung nicht relevant waren und/oder nicht für ein Laienpublikum bestimmt waren (z. B. wissenschaftliche Arbeiten), wurden 52 Webseiten (31 Prozent der Google-Suchergebnisse) und 29 Videos (19 Prozent der YouTube-Suchergebnisse) in die endgültige Analyse einbezogen. Das Team verwendete validierte Tools, um die Lesbarkeit der Webseiten zu bewerten und die Gesamtqualität von Webseiten und Videos unter dem Gesichtspunkt der Best Practices für Verbrauchergesundheitsinformationen zu bewerten. Sie verfolgten auch, ob der Inhalt wichtige KI-Sicherheitskonzepte abdeckte, etwa die Notwendigkeit einer klinischen Aufsicht oder das Potenzial für Ungenauigkeiten.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Nur 17 Webseiten (33 Prozent) und sieben Videos (23 Prozent) in der Stichprobe wurden als qualitativ hochwertig eingestuft. Während die American Medical Association (AMA) und die National Institutes of Health (NIH) für Verbrauchergesundheitsinformationen ein Leseniveau der 6. bis 8. Klasse empfehlen, lag die durchschnittliche Lesbarkeit der Webseiten auf Hochschulniveau. Nur 15 Prozent der Webseiten erwähnten das Risiko von KI-Halluzinationen.

Viele Ressourcen, die KI-Sicherheitspraktiken diskutierten, taten dies unter dem Gesichtspunkt, wie KI in die klinische Versorgung integriert wird – wie Ärzte und Krankenhäuser KI-Tools nutzen –, und nicht unter Berücksichtigung der Risiken, denen Patienten als direkte Nutzer der Technologie ausgesetzt sind.

Wenn ein Patient beispielsweise einen Chatbot fragt, ob die Nebenwirkungen der Behandlung normal seien, erhält er möglicherweise eine gut recherchierte und genaue Antwort. Oder es werden Informationen halluziniert (erfunden), die dazu führen könnten, dass ein Patient eine potenziell schwerwiegende Nebenwirkung ignoriert, anstatt sie mit seinem Pflegeteam zu besprechen. Oder ohne die Krankengeschichte des Patienten könnte der Chatbot wichtige Zusammenhänge übersehen, die seine Reaktion verändern könnten.

„Während wir den Patienten immer empfehlen, mit ihrem Pflegeteam als primärer Informationsquelle über ihre Pflege zu sprechen, sind wir uns darüber im Klaren, dass Patienten immer auch andere Ressourcen konsultiert haben“, sagte Subramanian. „Wir wissen, dass Patienten KI nutzen werden, um Fragen zu ihrer Krebsbehandlung zu stellen, und sie sollten Zugang zu Ressourcen haben, die ihnen helfen können, den sicheren Umgang mit diesen Tools zu erlernen.“

Möglichkeiten zur Verbesserung der patientenorientierten Ressourcen zu KI und Krebsbehandlung

Die Autoren sagen, dass die Ergebnisse einen klaren Aufruf zum Handeln für Gesundheitssysteme, Krebszentren und Onkologieorganisationen darstellen, hochwertige, laienfreundliche Ressourcen für Patienten zu entwickeln und Standards für die Entwicklung dieser Ressourcen festzulegen, einschließlich geeigneter Leseniveaus und Best Practices für die Einbeziehung von Sicherheitsinformationen.

„Angesichts der Tatsache, dass nur jeder vierte Artikel aus unserer Suche als relevant für Patienten erachtet wurde und davon nur jeder Dritte von hoher Qualität war, könnte es für Patienten schwierig sein, nützliche, verständliche Informationen zu finden“, sagte Co-Autor Ronac Mamtani, MD, der die David J. Vaughn MD-Professur für GU-Onkologie innehat und als Fakultätsberater der Studie fungierte. „Da KI immer stärker in die Onkologie integriert wird, sollte die Patientenaufklärung als zentraler Bestandteil der KI-Implementierungsstrategien priorisiert werden.“

Quellen:

University of Pennsylvania School of Medicine