KTI

KTI
2021 – 2023 gefördert durch Ministerium für Soziales, Gesundheit und Integration Baden-Württemberg

Übergeordnetes Ziel der KI-Translations-Initiative ist es, mittels verbesserter Erklärbarkeit und Generalisierung von diagnostischen KI-basierten Bildanalyse-Algorithmen wichtige Grundvoraussetzungen für eine erfolgreiche Einführung dieser Systeme in die klinische Praxis zu schaffen. Der Schwerpunkt liegt dabei zunächst auf der pathologischen Diagnostik.

Die einzelnen Erklärbarkeitsverfahren werden zunächst technisch im Hinblick auf die Frage evaluiert, ob die Funktionsweise und Entscheidungsfindung des Algorithmus im genutzten Erklärungsverfahren reproduzierbar richtig abgebildet wird. Dabei sollen insbesondere die Aspekte Korrektheit und Robustheit untersucht und verglichen werden. Der Einfluss der eingesetzten Erklärbarkeitsverfahren auf die Akzeptanz wird unter Einbezug von potenziellen Nutzern evaluiert. Zusätzlich wird auch ihr direkter Nutzen bezüglich der diagnostischen Genauigkeit untersucht.

Für die klinische Anwendung von KI-basierten Assistenzsystemen ist eine Frage besonders relevant: In welchen Fällen kann der Arzt der künstlichen Intelligenz vertrauen und in welchen nicht? Wichtig für diese Entscheidung könnte eine Information darüber sein, in welchen Fällen das System seine Entscheidung mit hoher Sicherheit trifft und in welchen Fällen nicht. Die Ausgabe von Modellunsicherheiten hilft dem Benutzer eines KI-basierten Assistenzsystems folglich, die Grenzen des Systems besser abzuschätzen. Ist für ein gegebenes Eingabebild die Modellunsicherheit hoch, so war das Modelltraining für eine fundierte Vorhersage nicht ausreichend. Die Ursache hierfür kann entweder in der gewählten Trainingsmethode liegen und/oder das gegebene Bild ist ein Ausreißer und im verwendeten Trainingsdatensatz nicht ausreichend repräsentiert.

Neben der Erklärbarkeit und der Unsicherheitsschätzung ist ein weiterer zentraler Punkt für eine erfolgreiche Einführung KI-basierter diagnostischer Assistenzsysteme eine zuverlässige Anwendbarkeit auch auf
unbekannten, "fremden" Daten. Insbesondere in der KI-basierten Analyse von Gewebeschnitten stellen bereits kleine Unterschiede im Färbeprotokoll unter den Laboren eine große Herausforderung dar. Um die Generalisierung der Algorithmen zu erhöhen, werden verschiedene Verfahren (wie z.B. Normalisierungs- und Augmentierungstechniken sowie few-shot-learning-Ansätze) erprobt.