Mit der Zustimmung der Mitgliedsländer der EU und des EU-Parlaments im Februar und März dieses Jahres ist die EU nach China die zweite globale Instanz, die Künstliche Intelligenz umfassend reguliert. Damit einhergehen Kosten, Risiken aber auch Chancen für Hersteller und Anwender von KI-Lösungen. Doch was bedeutet der AI-Act konkret für die Versicherungswirtschaft?
Das Ziel, das die EU mit dem AI-Act verfolgt, ist, Rahmenbedingungen für den neuen, schnell wachsenden und revolutionären Markt der künstlichen Intelligenz zu schaffen. Sie möchte verhindern, dass KI-Modelle oder -Anwendungen Menschen manipulieren, benachteiligen oder anderweitig schaden können. Sie unterscheidet in ihrem AI-Act zwischen verschiedenen Risikoklassen. Je nach Klassifizierung folgen unterschiedliche Pflichten für Nutzer und Anbieter der Systeme:
- KI-Anwendungen mit einem unannehmbaren Risiko werden mit dem AI-Act verboten. Dies umfasst Dinge wie Social-Credit-Ratings oder biometrische Fernerkennungssysteme.
- Für Hochrisikosysteme gelten strenge Anforderungen an Transparenz, Dokumentation und Aufsicht.
- Systeme mit geringem Risiko müssen nur eine minimale Transparenz erfüllen.
Versicherungen sehen sich mit der neuen Gesetzgebung großen Herausforderungen gestellt. Allein die eindeutige Klassifizierung eines Systems kann sehr komplexe technisch-juristische Hürden stellen. Was genau als KI-System unter den AI-Act fällt, lässt ebenfalls Raum für Interpretationen offen.
In Biometrieversicherungen wie der Kranken- oder der Berufsunfähigkeitsversicherung wird seit Jahrzehnten versucht, das Risiko, das ein Versicherter für den Bestand darstellt, möglichst genau zu beschreiben. Damit schützt sich der Versicherer vor Kostenschwankungen und kalkuliert auf dieser Grundlage seine Tarife. Streng genommen ist auch ein klassischer Biometrie-Score ein „Logik- und wissensgestütztes Konzept“ und damit laut dem AI-Act ein KI-System.
Viele Versicherer nutzen im Input-Management Systeme, um aus Schriftstücken das Sentiment des Absenders zu erkennen und damit kundenzentrierter arbeiten zu können. Sowohl der Kunde als auch der Versicherer möchten, dass eine wütende Nachricht gegenüber einer automatisch generierten Urlaubsnotiz priorisiert beantwortet wird. Mit dem AI-Act wird der Einsatz von KI-Systemen zur Ableitung von Emotionen pauschal verboten. Die Einstufung in die verschiedenen Risikoklassen erfolgt auch anhand des Sektors, in dem die KI-Lösung zur Anwendung kommt. Laut dem Bundesamt für Sicherheit in der Informationstechnik ist neben der Energie-, Wasser- und Nahrungsversorgung auch das Finanz- und Versicherungswesen ein Sektor der kritischen Infrastruktur. Somit sind Versicherer in der EU zu deutlich höheren Standards hinsichtlich der Transparenz und der Dokumentation verpflichtet.
Diese und noch viele weitere Herausforderungen werden zu Kostensteigerungen für die Einführung von KI-Systemen in der EU führen. Zusätzlich müssen neue Systeme gründlich auf die Vereinbarung mit dem AI-Act überprüft werden. Daraus resultieren jedoch nicht nur Nachteile, sondern Versicherer, die sich frühzeitig und umfangreich mit den Auswirkungen für das eigene Geschäftsmodell befassen, können sich sehr leicht einen großen Wettbewerbsvorteil erarbeiten.
Der AI-Act soll noch vor der Europawahl 2024 in Kraft treten. Es wird dadurch unumgänglich, sich schon zeitnah mit den Auswirkungen für das eigene Unternehmen auseinander zu setzen, um nicht von regulatorischen Anforderungen überrascht zu werden.
