ddm Ausgabe 1 | 2020

ddm | Ausgabe 1 | 2020 30 Digitale Visionen 3. KI erklärbar und vertrauenswürdig machen: Modelle der KI sind oft hochkomplex; die zugrundeliegende mathematische Struktur erlaubt nicht, ohne weiteres zu verstehen, welche Bildkomponenten (sog. „Features“) von dem Modell bei seinen Entscheidungen (z. B. Karies vorhanden / nicht vorhanden) berücksichtigt werden. KI-Modelle sind oft „Black Box Modelle“, die anfällig für unbeobachtete Verzerrungen sind: Möglicherweise werden nicht jene Features, die Ärzte und Zahnärzte zur Entscheidung heranziehen eingesetzt, sondern Artefakte. Dies hätte gravierende Konsequenzen, wenn das Modell an anderen Daten als den Trainingsdaten (wo es offensichtlich mit dem Lernen von Artefakten erfolg- reich war) eingesetzt würde. Hierfür gibt es zahlreiche Beispiele (Paul et al. 2019, Ho et al. 2019, Tang et al. 2018) und einige, nichtmedizinische Fälle haben es in die Presse geschafft (z. B. die gescheitere Vorhersage des Ausgangs der Fußballweltmeisterschaft 2018, Amazons KI-gestütztes Einstellungsverfahren zeigt eine klare Bevorzugung männlicher Bewerber u. a.). Mittlerweile gibt es eine Reihe von Techniken, die die zugrundeliegende „Logik“ von KI erklärbar machen. Ein ganzer Forschungsbereich widmet sich dieser Aufgabe („Explai- nable AI“). So können heute die Bereiche, die ein Modell zur Vorhersage nutzt, visualisiert werden oder bestimmte Tests zur Anfälligkeit von Modellen für Verzerrungen eingesetzt werden. Gerade bei der Visualisierung der vom Modell eingesetzten Features sollte aber berücksichtigt werden, dass diese Modelle möglicherweise wirklich Muster erkennen, die dem menschlichen Auge nicht zugänglich sind: Eine mangelnde Logik aus unserer Sicht muss deshalb nicht zwingend für eine Verzerrung des Modells sprechen, sondern kann eine „superhumane“ Genauigkeit anzeigen. Nichtsdestotrotz sollten solche Befunde stets kritisch hinterfragt werden. Alle drei Punkte – bessere Daten und Validierungen, Definition von Goldstandards und Metriken, Verstehen und Vertrauen in KI – sind Subjekt intensiver Forschungsbemühungen. Eine Initiative der WHO zusammen mit der International Telecommunication Union (ITU) spricht sich beispielsweise für die Definition von Standards zur Entwicklung und Erprobung von KI in der Medizin aus; eine entsprechende Fachgruppe Zahnmedizin in der beratenden „Fokusgruppe AI4Health“ wird zurzeit etabliert. Nur durch Anwendung einer rigorosen Methodik kann aus dem jetzigen Hype eine stetige Erfolgsgeschichte werden und KI sich das Vertrauen der Nutzer – Ärzte, Patienten, Kostenträger – in der Medizin verdienen. Zusammenfassung Bildgebung ist aus der zahnmedizinischen Diagnostik nicht wegzuzdenken. Die Möglichkeiten, die sich aus der Digitalisierung und „Künstlicher Intelligenz“ ergeben, werden auch in der Zahnmedizin Diagnoseassistenzsysteme entstehen lassen; diese werden zunehmend auch Therapieentscheidun- gen unterstützen. Der Zahnarzt bzw. die Zahnärztin werden jedoch weiterhin die Verantwortlichkeit tragen und demnach auch schlussendlich gemeinsam mit dem Patienten und unterstützt durch KI diese Entscheidungen treffen müssen. Bei aller Begeisterung sind jedoch zurzeit noch viele Unwäg- barkeiten und Unsicherheiten vorhanden, die überwunden werden müssen, bevor KI in die Routi- neversorgung einzieht. Langfristig können die besseren Möglichkeiten, zunehmend große Daten- mengen sinnvoll zu verarbeiten, diagnostische und therapeutische Entscheidungen sicherer, zuver- lässiger und wirksamer machen. Hierbei werden Techniken der KI (z. B. CNN in der Bildanalytik) eine große Rolle spielen.