Aktuelles: Mai 2023
Künstliche Intelligenz (KI) bietet für das Marketing zahlreiche Einsatzmöglichkeiten und Chancen. Künftig möchte die Barmer prädiktive Modelle einsetzen, um Inhalte auf der Website oder in Newslettern zu individualisieren und besser an die Bedürfnisse der Nutzenden anzupassen. Der Einsatz von KI bringt aber auch Risiken mit sich, besonders in einem sensiblen Feld wie der Gesundheitskommunikation. Deshalb entwickelt die Barmer gemeinsam mit ihrem Dienstleister PIA Dymatrix und dem Ethiker Prof. Dr. Stefan Heinemann nun ein Regelwerk für den KI-Einsatz in der Marketing Automatisierung.
Vorhersagemodelle auf Basis künstlicher Intelligenz sind heute so weit entwickelt, dass sie professionelle Texte verfassen, Designs entwerfen oder sogar Musik komponieren können. Für Laien ist dabei in der Regel nicht mehr erkennbar, dass eine künstliche Intelligenz Urheber war. Die eingesetzten Modelle sind darauf trainiert, ein überzeugendes Ergebnis zu produzieren, das die Menschen akzeptieren und das ein Informations- oder Unterhaltungsbedürfnis befriedigt. Sie können aber weder zwischen Wahrheit und Lüge, noch zwischen richtig und falsch in einem ethischen Sinn unterscheiden. Deshalb müssen solchen Modellen Grenzen gesetzt werden, die sowohl den möglichen Dateninput als auch den möglichen Output beschränken und beispielsweise ausschließen, dass eine KI beginnt, Fehlinformationen zu verbreiten.
Künftig wird es voraussichtlich gesetzliche Regelungen zum Einsatz von KI im Marketing und auch in anderen Anwendungsfeldern geben. Unter dem Titel „AI Act“ diskutiert die Europäischen Union gerade entsprechende Regeln. Die Barmer entwickelt bereits jetzt ein wertebasiertes Regelwerk und geht damit über die aktuellen gesetzlichen Standards hinaus, um Risiken des KI-Einsatzes zu minimieren und Transparenz für Nutzerinnen und Nutzer zu schaffen.
Das Regelwerk basiert darauf, den möglichen Daten-Input und Content-Output anhand ethischer Kriterien in vier Kategorien einzuteilen.
1. Daten/Content mit inakzeptablem Risiko – zum Beispiel Krebserkrankung/Hinweise zur Krebstherapie
2. Daten/Content mit hohem Risiko – zum Beispiel Schwangerschaft/Hinweise zur Geburtsvorbereitung
3. Daten/Content mit beschränktem Risiko – zum Beispiel Alter/Hinweis Darmkrebsfrüherkennung
4. Daten mit minimalem Risiko – zum Beispiel Versichertenstatus/Hinweis Bonusprogramm
Je nach Einordnung auf dieser Skala werden Daten und Inhalte mehr oder weniger streng für die Nutzung in KI-Modellen reguliert oder generell ausgeschlossen. Der Einsatz von KI-Modellen wird außerdem auf der Website oder im Newsletter transparent gemacht und in einfacher Form erklärt. Neben dem technisch fest implementierten Regelwerk sollen Nutzende auch die Möglichkeit bekommen, selbst zu entscheiden, ob und in welchem Umfang sie Empfehlungen einer KI erhalten möchten. Es wird also auch möglich sein, die KI individuell abzuschalten.
Das Regelwerk und die technische Implementierung werden parallel zur Weiterentwicklung der Marketing Automatisierung vorangetrieben. Bisher findet noch keine KI-basierte Ausspielung von Inhalten statt.
