Hintergrund

Die 3D-Ganganalyse (3DGA) in Kombination mit muskuloskelettalen (MSK) Modellen ermöglicht fundierte Aussagen zur Bewegungsdynamik einer Person. Dafür sind jedoch entsprechende Fachkenntnisse und hohe Rechenleistungen nötig. Zudem sind die Verfahren sehr zeitaufwändig. Methoden des maschinellen Lernens (ML) können hier Abhilfe schaffen und MSK-Modellierungs-Workflows erheblich beschleunigen. Der Einsatz von ML-Methoden erfordert allerdings ebenfalls spezielles Hintergrundwissen – das vielen Fachkräften im Gesundheitswesen fehlt. Sie haben Mühe, die Ergebnisse der ML-Modelle zu interpretieren, und entwickeln infolgedessen kein Vertrauen in die Technologie. Im Projekt DeepForce XAI gehe ich dieses Problem an und setze Methoden der erklärbaren künstlichen Intelligenz (XAI) ein, um die Ergebnisse von ML-Modellen besser verständlich zu machen.

Projektinhalt

DeepForce XAI baut auf dem Projekt DeepForce auf und erweitert die dort angewandten Methoden um Verfahren der erklärbaren künstlichen Intelligenz (XAI). Ziel ist es, Ergebnisse aus Bewegungsanalysen, die mit ML-Modellen gewonnen werden, transparenter und verständlicher zu machen. Die meisten XAI-Methoden wurden ursprünglich für Bild- und Videodaten entwickelt. Daher gilt es, eine Methode zu finden, die Gangdaten so aufbereitet, dass die wichtigsten Informationen klar ersichtlich und leicht interpretierbar sind.

Ziele

Die Hauptziele von DeepForce XAI sind:

• Identifikation der am besten geeigneten XAI-Methoden für die Ganganalyse.
• Anpassung dieser Methoden an Ganganalysedaten.
• Bewertung und Weiterentwicklung der Methoden. Basis dafür sind Rückmeldungen der Nutzer*innen.

Methoden

Eine systematische Literaturübersicht verschafft einen Überblick über den aktuellen Stand der ML-Methoden, die sich dafür eignen, auf Basis von Ganganalysedaten die Gelenkbelastungen der unteren Extremitäten zu bestimmen. Parallel dazu wird eine qualitative Studie durchgeführt, mit dem Ziel, XAI-Techniken zu identifizieren, die sich besonders für MSK-Simulationen eignen und fundierte Entscheidungen unterstützen. Als vielversprechendste Ansätze gelten post-hoc-Methoden wie BLA, DiCE und GradCAM. Grundlage dafür ist ein Ganganalyse-Datensatz aus dem DeepForce-Projekt mit etwa 3.000 Patient*innen.

Die ausgewählten Verfahren werden gezielt auf Ganganalysedaten zugeschnitten und so aufbereitet, dass sie den Bedürfnissen des Klinikpersonals gerecht werden. Techniken wie White-Box-Checks, Preservation-Checks und Daten-Randomisierungs-Checks kommen zum Einsatz, um die Brauchbarkeit der entwickelten Methoden zu prüfen. Zusätzlich wird Feedback von Expert*innen aus dem klinischen Umfeld eingeholt sowie eine Usability-Studie mit Fachkräften im Gesundheitswesen durchgeführt. Dieser Methodenmix gibt Aufschluss darüber, ob die entwickelten Verfahren gut anwendbar sind und den Erwartungen der künftigen Nutzer*innen entsprechen.

Funding

Der Inhalt repräsentiert nicht notwendigerweise die Sichtweise des Landes Niederösterreich oder der Gesellschaft für Forschungsförderung Niederösterreich als Förderstelle. Weder das Land Niederösterreich noch die Förderstelle können daher für den Inhalt verantwortlich gemacht werden.