KI bei Vermittlern – ja, dürfen die das denn?

5.9.2023 – Künstliche Intelligenz ist eine Technologie, die im Vertrieb viele Möglichkeiten der Arbeitserleichterung und Vereinfachung bietet. Sie unterstützt bei Routinearbeiten, während sich der Vermittler auf die komplexere Beratung und eigentliche Vermittlungstätigkeit konzentrieren kann. Allerdings ist die Regulatorik zum Einsatz der neuen Instrumente noch nicht abgeschlossen. Leitplanken hierzu liefert unter anderem die DSGVO, berichtet Christian Nölke vom IT-Dienstleister Adesso in seinem Gastbeitrag.

Künstliche Intelligenz (KI) ist spätestens seit Diensten wie ChatGPT und Stable Diffusion im Privathaushalt angekommen, doch auch in der Industrie und im Dienstleistungssektor ist das Thema KI heiß diskutiert und wird erprobt.

Bei Versicherungs-Vermittlern zeigen sich ebenfalls einige Szenarien, in denen sich der Einsatz von KI anbietet. Textgenerierungssysteme zum Beispiel können ihnen helfen, effizient Mails und Briefe zu erstellen. Chatbots können die anfängliche Kundenkommunikation führen, Standard-Kunden beraten, Fragen beantworten und ihnen beim Ausfüllen verschiedener Formulare helfen.

: Christian Nölke (Bild: Adesso)

Darüber hinaus bietet sich KI im Bereich der prädiktiven, also „vorhersagenden“ Analyse an. Hierbei kann sie Muster erkennen und auf wahrscheinliche Ereignisse verweisen; beispielsweise bei Kunden, die aktuell eine Kündigung in Erwägung ziehen. Der Vermittler kann diesen Kunden dann zielgerichtet attraktive Angebote unterbreiten.

Ansätze zur Regulierung des Einsatzes von KI

Doch bei aller Euphorie über die Chancen und Möglichkeiten stellen sich die Fragen: Dürfen Vermittler das überhaupt? Was sagt die Regulatorik dazu? Und welche weitergehenden Maßnahmen sollte man beim Einsatz von künstlicher Intelligenz erwägen?

Tatsächlich ist die Regulatorik zum Thema KI noch ziemlich überschaubar. Hier eilt die Technik den Juristen voraus. Die Bundesanstalt für Finanzdienstleistungs-Aufsicht (Bafin) hat Leitlinien zum Einsatz von KI in Banken und bei Versicherern herausgegeben, aber Versicherungsvermittler unterliegen nicht ihrer Kontrolle. Dennoch sind hier viele durchdachte Ansätze zu finden, die sich bald auch in anderen Werken wiederfinden könnten.

Die EU diskutiert über eine Verordnung zur KI, aber dieses Vorhaben befindet sich noch im internen Verfahren. Derzeit ist schwer abzusehen, ob, wann und mit welchen Inhalten hier eine Verordnung kommen wird.

Vorgaben durch die DSGVO

Auch die Datenschutz-Grundverordnung (VersicherungsJournal Archiv) hat Vorgaben, die beim Einsatz der KI berücksichtigt werden müssen. Grundsätzlich müssen zwei Bereiche des Einsatzes von KI unterschieden werden, die einzeln vorkommen können, aber auch in Kombination:

Training eines eigenen KI-Modells mit bestehenden Daten,
Nutzung eines KI-Modells mit neuen Daten.

Beim Training eines eigenen Modells setzt die DSGVO gewisse Grenzen. Alle personenbezogenen Daten, die der Vermittler von Kunden erhalten hat, unterliegen der Zweckbindung. Sie wurden übergeben, um auf dieser Basis ein optimales Angebot unterbreiten zu können. Damit dürfen sie nicht automatisch auch genutzt werden, um Modelle zu trainieren.

Aus Perspektive des Vermittlers ist es aber notwendig, Daten in ausreichender Qualität und Menge bereitzustellen, um den Trainingserfolg des Modells zu gewährleisten. Auswege hieraus sind, die Daten zu anonymisieren, den Kunden um eine Einwilligung zu bitten oder die Daten aus „Berechtigtem Interesse“ zu nutzen.

Datenschutzexperten einbinden

Wenn der Vermittler „Berechtigtes Interesse“ (Artikel 6 Absatz 1 lit. f DSGVO) zur Nutzung der Daten anführen möchte, muss er im Mindesten den Kunden über diesen Zweck informieren. Zudem dürfen Gesundheitsdaten nicht dafür genutzt werden. In jedem Fall sollte an dieser Stelle ein Datenschutzexperte eingebunden werden.

Weiterhin ist darauf zu achten, dass gesetzliche Diskriminierungsverbote und gesellschaftliche Normen beim Training des Modells beachtet werden. Selbsttrainierte Modelle sollten deshalb vor dem Einsatz im Kundenumfeld unbedingt gut getestet und auch ständig überwacht werden.

Gerade wenn das Modell im Einsatz weiter lernt, kann man sonst böse Überraschungen erleben. Nutzer aus dem Internet machen sich gerne einen Spaß daraus zu erproben, wohin man das Modell treiben kann.

Einsatz von zugekauften KI-Modellen

Deutlich einfacher gestaltet sich der Einsatz eines KI-Modells, wenn es lediglich zugekauft und nicht mit eigenen Daten trainiert wird. Hierbei ist besonders darauf zu achten, dass Kunden vor rein automatisierten Entscheidungen geschützt sind (Artikel 22 DSGVO).

Dieser Fall sollte bei Vermittlern aber eher die Ausnahme sein. In der Regel ist die KI hier eine Entscheidungs- oder Arbeitshilfe für den Menschen, oder sie unterstützt den Kunden bei seinen Entscheidungen. Hierbei berät die Technik, trifft aber keine letztendlichen Entscheidungen und ist somit in dieser Beziehung problemlos einsetzbar.

Wenn der Kunde mit einer KI und nicht mit einem realen Berater kommuniziert, sollte er zu Beginn der Interaktion darüber informiert werden.

KI-Modelle regelmäßig testen

Natürlich sollten Vermittler bei der Nutzung von künstlicher Intelligenz Maßnahmen ergreifen, um eine einwandfreie Funktion sicherzustellen. Auch wenn das Modell „Intelligenz“ besitzt, trägt der Betreiber die Verantwortung für die Ergebnisse des Modells.

Deshalb muss das KI-Modell regelmäßig getestet werden, insbesondere, wenn es durch Eingaben selbstständig lernt. Entsprechen die Ergebnisse noch den Erwartungen? Haben sich Verschiebungen (Bias) eingeschlichen, die zu unerwünschten Ergebnissen führen? Gab es Ereignisse, die zu Verschiebungen in den Daten führen oder zu einer veränderten Nutzung der KI?

Wenn der Vermittler das KI-Modell nicht selbst trainiert oder betreibt, sondern sich dazu eines Dienstleisters bedient, gelten die gleichen Voraussetzungen, wie bei jeder anderen Verarbeitung personenbezogener Daten. Grundlage ist immer ein Vertrag zur Auftragsverarbeitung sowie angemessene technische und organisatorische Maßnahmen (Artikel 25 ff DSGVO).

Immer einen Plan B haben

KI ist eine spannende Technologie, die im Vermittlerumfeld viele Möglichkeiten der Arbeitserleichterung, Optimierung und Vereinfachung bietet. Menschen können sich auf anspruchsvolle, kreative Arbeit konzentrieren, während die KI unterstützt und Routinearbeiten übernimmt.

Hier sollte jedes Unternehmen Erfahrungen sammeln und Potenziale ausarbeiten. Allerdings ist das regulatorische Umfeld derzeit noch recht volatil und auch die Technik entwickelt sich fortwährend weiter.

Als Konsequenz sollte der Vermittler den Einsatz erproben, aber immer einen Plan B haben, um das Geschäft auch zur Zufriedenheit des Kunden weiterführen zu können. Etwa für den Fall, dass die KI ungeplant neu trainiert oder sogar zeitweise ganz abgeschaltet werden muss.

Christian Nölke

Der Autor ist Principal Consultant bei der Adesso SE. Beim IT-Dienstleister leitet er seit vielen Jahren regulatorische Projekte bei Banken und Versicherern und berät die Unternehmen bei der Konzeption und Umsetzung solcher Projekte.