In einer zweiphasigen Studie beurteilten 76 Hautärzte jeweils 16 mit dem Dermatoskop, einer beleuchteten Lupe, aufgenommene Bilder (Melanome und gutartige Muttermale, sogenannte Nävi) – zunächst unter Verwendung einer Standard-KI und anschließend mit einer erklärbaren KI-Lösung. Die erklärbare KI, kurz XAI, kombiniert KI-Vorhersagen mit textlichen und bildbasierten Begründungen, die sich auf etablierte dermatoskopische Merkmale stützen. Mithilfe von Eye-Tracking-Messungen wurde erfasst, wie lange und wie intensiv die Teilnehmenden bestimmte Bildregionen und Erklärungen betrachteten.
Eye-Tracking als Objektivierungsmethode
Die Analyse der Blickmuster zeigte, dass schwierige Fälle mit einer erhöhten Anzahl an Fixationen einhergingen – einem objektiven Indikator für kognitive Belastung. In der XAI-Phase nahm diese Belastung bei herausfordernden Fällen im Vergleich zur Standard-KI ab, was auf einen entlastenden Effekt der gegebenen Erklärungen hinweist.
„Unsere Ergebnisse zeigen, dass erklärbare KI nicht nur das diagnostische Vertrauen erhöht, sondern auch die Ausdauer bei schwierigen Fällen in der klinischen Praxis unterstützen kann“, erklärt Titus J. Brinker, Seniorautor der aktuellen Studie. „Gerade bei hohem Fallaufkommen und komplexen Läsionen kann erklärbare künstliche Intelligenz helfen, Ermüdung vorzubeugen und so potenzielle Fehlerquellen zu minimieren.“
Folgestudien sind geplant, um die langfristigen Auswirkungen auf Arbeitsbelastung und Diagnosequalität in realen klinischen Umgebungen zu untersuchen.
Chanda, T., Haggenmueller, S., Bucher, TC. et al. Dermatologist-like explainable AI enhances melanoma diagnosis accuracy: eye-tracking study.
Nature Communications, 2025, https://doi.org/10.1038/s41467-025-59532-5
