Wer schon einmal im Auto vom Navigationsgerät zu einem völlig falschen Ort geleitet wurde, der weiß: Die vielen digitalen Helfer, die wir im Alltag ständig benutzen, können unser Leben sehr erleichtern. Sich nur auf sie zu verlassen wäre aber fatal, denn unfehlbar sind sie nicht. Bei digitalen Gesundheitsanwendungen können die Folgen von Fehlern weitaus gravierender sein, etwa wenn dank einer fehlerhaften Verhütungs-App plötzlich ungeplanter Nachwuchs auf dem Weg ist oder wenn die Messwerte beim Blutdruck oder Blutzucker falsch sind.
Quellen für Fehler gibt es einige. Schon die Daten selbst, auf denen die Anwendungen beruhen, könnten unzureichend sein. An Studien zur Zulassung neuer Wirkstoffe nehmen zum Beispiel meist mehrheitlich weiße Männer teil.
Wenn ein solcher Gender-Bias in der Datenbasis enthalten ist, wird dieser anschließend vom Algorithmus reproduziert. Das könnte dann dazu führen, dass ein Chatbot in einer Anwendung eine Frau falsch berät. Die Verlässlichkeit diverser Tracking-Technologien muss ebenfalls jeweils bewiesen werden und die Schlussfolgerungen der darauf basierenden digitalen Anwendungen möglichst transparent gemacht werden.
Wir trauen digitalen Gesundheitsanwendungen zu, die richtigen Entscheidungen zu treffen. Es heißt aber nicht, dass wir ihnen bedingungslos vertrauen.
Ärzte sensibilisieren
An sich sind wir bei der Barmer vom Nutzen der digitalen Gesundheitsanwendungen überzeugt. In der Vorsorge, der Diagnostik und der Therapie können sie die ursprünglichen Methoden unterstützen und oft auch verbessern.
Das heißt auch, dass wir ihnen zutrauen, die richtigen Entscheidungen zu treffen. Es heißt aber nicht, dass wir ihnen bedingungslos vertrauen. Deswegen wollen wir Ärzte und Versicherte für Themen wie Verantwortung, Haftung und Kontrolle sensibilisieren.
Von Herstellern und Forschern erwarten wir transparente, Technologien mit integrierten Kontrollmechanismen, von den Zulassungsstellen klare Evidenz- und Sicherheitskriterien. Dazu gehört auch, dass der Zugang und das Design von digitalen Anwendungen gerecht, barrierefrei, leicht verständlich und diskriminierungsfrei ist.
Denn so können auch die Nutzer, also unsere Versicherten, besser einschätzen, ob etwa eine Diagnose plausibel ist. Gleichzeitig unterstützen wir die Ärzte dabei, die Empfehlungen algorithmischer Systeme grundsätzlich nachvollziehen zu können oder zumindest zu wissen, wo die Produkthaftung des Herstellers endet und die eigene beginnt. Denn zumindest solange algorithmische Systeme nicht haftbar gemacht werden können, muss und sollte der Arzt oder die Ärztin weiterhin die medizinische Verantwortung übernehmen.
