Was sagt die Wissenschaft zur KI-Betrugserkennung?

Die wichtigsten Erkenntnisse

• Bis zu 97 % Erkennungsrate: Moderne KI-Modelle erkennen Phishing und Betrug mit einer Genauigkeit, die menschliche Prüfer und klassische Filter übertrifft.
• Visuelle Dokumentenprüfung: Multimodale KI analysiert nicht nur Text, sondern auch Logos, Layout und Schriftarten – genau wie ein Experte.
• Schneller als jeder Mensch: Eine KI-Analyse dauert Sekunden statt Minuten. Sie prüft gleichzeitig hunderte Merkmale, die Menschen leicht übersehen.
• Ständig besser werdend: Aktuelle Forschung (2024/2025) zeigt: Jede neue KI-Generation erkennt Betrug noch zuverlässiger als die vorherige.

Studien im Überblick

LLMs erkennen Phishing-E-Mails mit bis zu 97 % Genauigkeit

Hua, Wang & Lutchkus · Robert Morris University · 2024 · Issues in Information Systems

GPT-4 erkannte in einer kontrollierten Studie Phishing-E-Mails mit einer Genauigkeit von bis zu 97 % unter kontrollierten Laborbedingungen – deutlich besser als herkömmliche Spamfilter. Zur Studie

GPT-4 vs. Gemini: Spam-Erkennung im Vergleich

Mardiansyah & Surya · Unabhängige Studie · 2024 · Research Square (Preprint)

Sowohl GPT-4 als auch Google Gemini erreichten hervorragende Ergebnisse bei der Erkennung von Spam und Phishing auf dem SpamAssassin-Datensatz. Beide Modelle übertrafen klassische Filter. Zur Studie

Multimodale KI-Agenten für visuelle Phishing-Erkennung

Trad & Chehab · American University of Beirut · 2024 · arXiv (Preprint)

Große multimodale Modelle (wie GPT-4V) können Phishing-Websites und gefälschte Dokumente auch anhand visueller Merkmale erkennen – Logos, Layout und Schriftarten werden analysiert. Zur Studie

Qwen und Gemini bei der Phishing-Erkennung

Nabila & Rahmatullah · Sepuluh Nopember Institute of Technology · 2025 · Kohesi: Jurnal Multidisiplin Saintek

Google Gemini zeigte starke Leistungen bei der Erkennung von Phishing-E-Mails und konnte verdächtige Muster in Betreffzeilen, Absenderadressen und Nachrichtentext zuverlässig identifizieren. Zur Studie

KI in der Phishing-Erkennung: Bibliometrische Übersicht

Frontiers in AI (Review) · Internationale Forschungsgruppe · 2025 · Frontiers in Artificial Intelligence

Eine umfassende Übersichtsarbeit bestätigt: KI-basierte Methoden sind der effektivste Ansatz zur Phishing-Erkennung und übertreffen regelbasierte Systeme in nahezu allen Metriken. Zur Studie

KI zur Prävention von Finanzkriminalität

Uddin, N. · Internationale Studie · 2025 · Journal of Economic Criminology

KI-gestützte Systeme reduzieren Betrug im Finanzsektor signifikant. Besonders bei der Erkennung gefälschter Dokumente und Social-Engineering-Angriffen zeigen LLMs große Stärken. Zur Studie

Harvard-Studie: LLMs und automatisiertes Spear-Phishing

Heiding, Schneier et al. · Harvard University & MIT · 2024 · IEEE Access

Die Studie zeigt, dass GPT-4 überzeugende Phishing-E-Mails generieren kann. Dies unterstreicht die Notwendigkeit KI-basierter Erkennungssysteme als Gegenmaßnahme. Zur Studie

Was die Studien nicht sagen

• Die Erkennungsraten stammen aus kontrollierten Laborbedingungen mit bekannten Datensätzen. In der Praxis sind Betrugsversuche neuer und individueller – reale Trefferquoten liegen darunter.
• KI-Modelle liefern keine Beweise, sondern Wahrscheinlichkeiten. Ein unauffälliges Ergebnis ist kein Freifahrtschein; ein auffälliges Ergebnis sollte über den offiziellen Kanal des Absenders gegengeprüft werden.
• Mehrere Arbeiten zeigen, dass dieselben Modelle auch überzeugende Phishing-Mails erzeugen können (Dual-Use). Deshalb kombiniert der Betrugs-Checker die KI-Analyse mit regelbasierten Prüfungen und laufend aktualisierten Betrugsmustern.
• Die aufgeführten Studien sind unabhängige wissenschaftliche Arbeiten; der Betrugs-Checker war an keiner beteiligt.

Selbst prüfen

• E-Mail auf Betrug prüfen
• Rechnung auf Manipulation prüfen

Häufige Fragen

Wie zuverlässig erkennt KI Phishing-Mails?

In kontrollierten Studien erreichen große Sprachmodelle wie GPT-4 Erkennungsraten zwischen 90 und 97 % und übertreffen damit klassische Spamfilter. In der Praxis liegen die Werte niedriger, weil Täter ihre Maschen laufend anpassen.

Kann KI auch gefälschte Briefe und Rechnungen erkennen?

Ja. Multimodale Modelle analysieren neben dem Text auch Logos, Layout, Schriftarten und Stempel. Der Betrugs-Checker nutzt das für Brief- und Rechnungsprüfungen, ergänzt um IBAN- und QR-Code-Prüfungen.

Ersetzt die KI-Prüfung meine eigene Vorsicht?

Nein. Die Prüfung ist eine schnelle Zweitmeinung. Die Grundregeln bleiben: keine Links aus Nachrichten anklicken, keine Daten oder Codes herausgeben und den Absender über einen selbst gesuchten Kontaktweg bestätigen.

Nutzt der Betrugs-Checker dieselbe Technik wie in den Studien?

Der Betrugs-Checker setzt große Sprach- und Bildmodelle derselben Generation ein, angepasst auf deutsche Betrugsmaschen und ergänzt um regelbasierte Prüfungen (Domains, IBAN, Rufnummern) und aktuelle Warnmeldungen.