EU-KI-Verordnung: Diese drei Punkte sind für Vermittler entscheidend

13.6.2025 – Künstliche Intelligenz hat ihren Weg in die Versicherungswelt gefunden – nun kommt die Regulierung. Im August 2024 ist der neue EU-Rechtsrahmen für KI in Kraft getreten, ab 2026 drohen Sanktionen bei Verstößen. Versicherer und Vertrieb sind gut beraten, sich frühzeitig mit den Anforderungen auseinanderzusetzen.

Seit August 2024 ist die Künstliche-Intelligenz-Verordnung der Europäischen Union 2024/1689 (EU-Rechtsrahmen für KI) rechtsgültig, die vollständige Anwendung ist für August 2026 vorgesehen. Der sogenannte EU AI Act legt erstmals einen einheitlichen, rechtsverbindlichen Rahmen für den Einsatz von künstlicher Intelligent (KI) fest.

: Christian Wachter (Bild: Scheer IMC)

Auch selbstständige Versicherungsmakler, die KI-Anwendungen für alltägliche Aufgaben nutzen, müssen sich mit den Anforderungen auseinandersetzen. Bei Verstößen drohen Geldbußen von bis zu sieben Prozent des Jahresumsatzes. Die Höhe der Strafen hängt vom Verstoß und der Größe des Unternehmens ab.

Regelwerk setzt praktischen Handlungsrahmen

„Der EU AI Act ist kein Regelwerk für Tech-Giganten, sondern ein praktischer Handlungsrahmen, der auch für Makler oder Versicherungsagenturen mit wenigen Mitarbeitenden gilt. Wer KI einsetzt, sollte jetzt aktiv werden“, sagt Christian Wachter, Vorstand der Scheer IMC.

Sein Unternehmen entwickelt KI-basierte Lerntechnologien, die in unterschiedlichen Branchen genutzt werden. Vor dem Hintergrund des EU AI Act würden jetzt in der Regulierung von künstlicher Intelligenz neue Maßstäbe gesetzt, meint der Fachmann. Seiner Einschätzung nach sind die nachfolgenden drei Punkte der KI-Verordnung für den Vertrieb besonders relevant.

Erstens: Einstufung des KI-Risikos…

Die EU-KI-Verordnung stuft künstliche Intelligenz in vier Risikoebenen ein – von geringfügig bis nicht vertretbar. Je höher das Risiko, desto strenger die Vorschriften.

Wird KI im Personalbereich eingesetzt, greifen strenge Vorgaben. „Kommt KI etwa bei der Bewerberauswahl oder internen Leistungsauswertungen zum Einsatz, müssen Versicherer und Maklerbüros offenlegen, wie die Systeme arbeiten, und sicherstellen, dass am Ende immer ein Mensch die Verantwortung für Entscheidungen trägt“, gibt Wachter ein Beispiel.

Die EU-Verordnung enthält weitere Beispiele zur Einordnung, bei Unklarheiten helfen Leitfäden oder rechtliche Beratung. „Die meisten gängigen KI-Anwendungen, die im Büroumfeld zum Einsatz kommen, zählen allerdings zur niedrigen Risikostufe, für die lediglich Transparenzpflichten gelten“, erläutert Wachter.

… und der Datenschutz

Nutzt ein Makler etwa ChatGPT, um E-Mails an Kunden zu formulieren, muss er den Empfänger künftig darüber informieren. Dazu reicht ein kurzer Hinweis in der Signatur wie „Diese Nachricht wurde mithilfe künstlicher Intelligenz erstellt.“

Übrigens: Unabhängig vom EU AI Act dürfen personenbezogene Daten nicht ohne Zustimmung der Betroffenen in OpenAI-Anwendungen wie ChatGPT eingegeben werden. „Hier sollte, sofern vorhanden, unbedingt auf eine datenschutzkonforme Unternehmensversion zurückgegriffen werden“, rät der Experte.

Zweitens: Anforderungen an Transparenz und Nachvollziehbarkeit einhalten

Ein zentrales Anliegen des EU AI Acts ist die Transparenz von KI-Systemen. Vermittler müssen sicherstellen, dass Kunden nachvollziehen können, wie Entscheidungen getroffen werden, die auf KI basieren.

Wenn KI-Systeme genutzt werden, um individuelle Risiken zu bewerten oder Prämien in der Lebens- oder Krankenversicherung zu bestimmen, gelten diese Systeme beispielsweise als Hochrisiko-Anwendungen. In diesem Bereich sind genaue Informationen über die Funktionsweise der eingesetzten Algorithmen erforderlich. Kunden müssen klar und transparent darüber informiert werden, wenn KI in der Beratung oder Entscheidungsfindung zum Einsatz kommt.

Wachter erläutert, was das in der Praxis bedeuten kann: „Bei automatisierten Empfehlungen oder Entscheidungen für einen Tarif oder eine Versicherung ist offenzulegen, dass diese von einem KI-System generiert wurden. Außerdem müssen Vermittler auf Anfrage dem Kunden erklären können, wie das KI-System zu seinen Empfehlungen kommt, welche Daten dafür genutzt werden und welche Entscheidungslogik dahintersteht.“

Drittens: KI-Schulungspflicht für alle Anwender

Artikel 4 der Verordnung verpflichtet Unternehmen, sicherzustellen, dass alle Personen, die KI-Systeme bedienen, nutzen oder entwickeln, über ausreichende KI-Kompetenzen verfügen. Damit legt der EU AI Act ausdrücklich fest, dass Mitarbeiter, die mit KI-Systemen arbeiten, geschult werden müssen.

„Diese Schulungspflicht gilt unabhängig von Unternehmensgröße oder Branche, also auch für kleine Maklerbüros, Versicherungsagenturen und Vermittler, die KI-Tools wie Chatbots, automatisierte Beratung oder Tarifierungssysteme einsetzen“, macht Wachter deutlich.

Die Schulungen müssen auf die jeweilige Rolle, das technische Wissen und den Einsatzkontext abgestimmt sein. Das umfasst sowohl Grundlagenwissen zur Funktionsweise von KI als auch Kenntnisse über Risiken, ethische Fragestellungen und den verantwortungsvollen Umgang mit KI-Systemen.

„Vor allem wenn es um Anforderungen wie Transparenz oder Risikoeinstufung geht, sind praxistaugliche Trainings gefragt, die auf konkrete Einsatzszenarien zugeschnitten sind“, hebt Wachter hervor.