Im Insurance Monday Podcast spricht Gastgeber Alexander Bernert mit Torsten Nietz, Geschäftsführer der FIDA aus Gotha, über manipulierte und komplett künstlich erzeugte Bilder. Der GDV beziffert den Schaden durch Versicherungsbetrug auf mehrere Milliarden Euro pro Jahr, rund zehn Prozent der Schadenmeldungen gelten als prüfwürdig. Wo die Grenzen menschlicher Prüfung liegen.

Das menschliche Auge reicht nicht mehr aus

Die Zeiten, in denen man gefälschte Bilder an sechs Fingern erkannte, sind vorbei. Nietz beschreibt, was passiert, wenn er einem Publikum Bilder vorlegt und raten lässt: "Es ist mittlerweile im Grunde vollkommen zufällig, ob das Bild eine Fälschung ist oder nicht. Das sieht keiner mehr."

Hinzu kommt der Zeitdruck im Betrieb. Selbst wer genauer hinsehen wollte, hat dafür schlicht keine Kapazität: "Welcher Schadensachbearbeiter hat denn noch Zeit für den zweiten Blick? Das ist ja eigentlich unmöglich."

Wer heute betrügen will, braucht nur noch einen Prompt für die KI. Ein Foto eines Fahrzeugs von vorne genügt, um sich Ansichten von der Seite, von oben und von unten erzeugen zu lassen. Auch der angebliche Schadenverlauf ist in Sekunden erstellt.

Das Bild ist nicht mehr entscheidend, sondern die Signatur

Der Lösungsansatz ist eine Umkehrung der intuitiven Herangehensweise. Was auf dem Bild zu sehen ist, spielt keine Rolle mehr: "Der Inhalt des Bildes interessiert uns im Grunde überhaupt nicht. Uns interessiert, ob sich die Signatur des Bildes grundsätzlich von der eines Fotos unterscheidet."

Ist nur ein Ausschnitt auffällig, liegt oft der Klassiker der Schadenmehrung vor: Der Wasserschaden an der rechten Wand wird per Bildbearbeitung noch geschwind an die linke Wand kopiert. Ergänzt wird die Analyse durch Metadatenauswertung, Rückwärtssuche und Dublettencheck, wobei Metadaten in der Praxis häufig fehlen. Sie werden bei Bildoptimierungen abgeschnitten und sind im Betrugsfall ohnehin das Erste, was manipuliert wird.

Zwei Jahre Geduld und ein permanentes Wettrüsten

Entstanden ist die Lösung in Zusammenarbeit mit der Universität Göttingen durch Versuch und Irrtum und viel Geduld. Bis zur Marktreife vergingen allein zwei Jahre, seit rund anderthalb bis zwei Jahren ist das System im Betrieb.

Die Entwicklung geht kontinuierlich weiter. Jeder neue Bildgenerator erzwingt neue Erkennungsmodelle, vergleichbar mit einem Virenscanner.

Die Sonne als Fälscher

Beispiele aus dem echten Betrieb illustrieren das Problem der False Positives. Der Hagelschaden auf einem sauberen Fahrzeug bei schönem Licht: "Es glänzt fantastisch und es spiegelt und dann sagt die Software, das ist aber komisch. Das sieht aber nach einer Manipulation aus." Technisch hat das System korrekt gearbeitet, es hat eine Abweichung gefunden. Nur war der Verursacher eben die Physik und nicht der Kunde.

Der eigentliche Hebel heißt Automatisierung

Eine manuelle Bildprüfung passt nicht in die Dunkelverarbeitung, die gerade im Massenschaden das Ziel ist. Nietz plädiert deshalb für Aussteuerungsquoten statt Einzelfallkontrolle: "Ich bin ein Verfechter von Automatisierung, wo es denn Sinn macht und wo es geht. Und da behaupte ich, wir sind bei Weitem noch nicht da, wo wir sein könnten."

Arbeitsplätze sieht er dadurch nicht bedroht, sondern angereichert. In einer schrumpfenden Erwerbsbevölkerung sei höhere Produktivität schlicht notwendig, und der ideale Zustand sei jener, in dem Menschen kontrollieren, freigeben und selbst bestimmen, wie viel Vertrauen sie der Maschine einräumen.

Noch unter einem Prozent, aber die Ruhe täuscht

Belastbare Zahlen aus dem laufenden Betrieb liegen bisher unter einem Prozent. Entscheidend ist für ihn aber nicht der Status quo, sondern die Dynamik. Aus seiner Sicht werden die Fälschungen stark zunehmen, es sei schlicht zu einfach, einen Schaden zu manipulieren.