Gefälschte und KI-generierte Dokumente erkennen: Welche Prüfung für welchen Verdacht

Bei möglicherweise gefälschten oder KI-generierten Dokumenten steht zuerst die Frage: Was genau ist verdächtig? Ein mit KI geschriebener Text, eine vollständig erzeugte Seite, ein verändertes Feld und ein echtes Dokument im falschen Zusammenhang erfordern unterschiedliche Prüfungen. Software liefert Befunde und Fundstellen. Zur Klärung gehören auch die Bestätigung des Ausstellers und der Abgleich mit dem zugrunde liegenden Geschäftsvorgang.

Die Textanalyse kann eine Prüfung nach Ihrer Richtlinie zur KI-Nutzung lenken. Der Dateivergleich kann ein geändertes Zahlungsfeld aufdecken. Die Bestätigung beim Aussteller klärt, ob eine neue Bankverbindung befugt ist. Wer jedem Verdacht die passende Prüfung zuordnet, gibt dem Prüfteam einen klaren nächsten Schritt und hält zugleich den Beschaffungsumfang für Prüfwerkzeuge überschaubar.

Vier Fälle, die unterschiedliche Nachweise brauchen

Das Bundeslagebild Cybercrime 2025 hält fest: „Kriminelle nutzen KI, um Angriffe effizienter und professioneller durchzuführen“ (Bundesregierung, 12.05.2026). Das BSI zählt neben Bild, Video und Audio ausdrücklich auch Text zu den Medienformen, in denen KI-gestützte Fälschungen auftreten (BSI: Deepfakes – Gefahren und Gegenmaßnahmen). Wie häufig gewöhnliche Geschäftsdokumente betroffen sind, beziffert keine dieser Quellen.

Für die Praxis trennen Sie vier Fälle. Sie können sich in einer Einreichung überschneiden.

Der letzte Fall wird leicht übersehen. Ein unveränderter Kontoauszug aus einem früheren Monat kann echt sein und trotzdem keinen aktuellen Kontostand belegen. Eine echte Lieferantenrechnung belegt nicht, dass eine E-Mail mit geänderter Bankverbindung befugt ist. Bild- und Dateiprüfung können unauffällig bleiben, während der geschäftliche Anspruch unbelegt ist. Bei Unterlagen wie Gehaltsabrechnungen oder Kontoauszügen ist deshalb die Bestätigung durch den Aussteller – Arbeitgeber oder Bank – der entscheidende Nachweis, nicht die Optik des Dokuments.

Wann die Prüfung der Textherkunft sinnvoll ist

Die Prüfung der Textherkunft lohnt sich, wenn Ihr Unternehmen eine ausdrückliche Regel zur KI-Nutzung oder Offenlegung hat und das Dokument genug zusammenhängenden Text enthält. Das Ergebnis lenkt die Prüfung auf Passagen, zu deren Entstehung Sie nachfragen sollten. Die Tatsachenbehauptungen in diesen Passagen prüfen Sie getrennt.

Was die Dokumentprüfung von Fileverity leistet

Die Dokumentprüfung von Fileverity arbeitet mit dem Prüfsystem FVDOC V3 und bewertet Fließtext aus PDF-, Word- und Textdateien auf Deutsch, Englisch, Französisch, Spanisch und Chinesisch. Nötig sind etwa 150 Wörter zusammenhängender Fließtext. Markierte Passagen werden mit Seiten- oder Absatzangabe aufgeführt. Formulare, Tabellen und kurze Texte werden nicht als Text bewertet. Fileverity erweitert denselben Bericht um die Fotos im Dokument, gescannte Seiten sowie die gespeicherten Versionen und Signaturen eines PDFs, mit einer einzigen Einschätzung von L0 bis L5. Die Signaturprüfung unterscheidet gültige, ungültige und unbestimmte Ergebnisse anhand der verfügbaren Vertrauens- und Sperrdaten. Eine vollständige historische Langzeitvalidierung oder rechtliche Zertifizierung ersetzt sie nicht. Den Aussteller und den zugrunde liegenden Vorgang bestätigen Sie unabhängig.

Für deutsche Dokumente nennt der Prüfbericht den Geltungsbereich ausdrücklich:

• Vollständig KI-generierte deutsche Dokumente wurden in der Validierung von FVDOC V3 (Oktober 2026, mit zurückgehaltenen Testdaten) zu 98 % erkannt.
• Fehlalarme: Von Menschen verfasste deutsche Texte – Webseiten und Fachdokumente – erhielten in 0,2 % der Fälle einen KI-Befund.
• Einzelne KI-Passagen in sonst menschlich verfassten Dokumenten: Für diese Mischformen sind die Ergebnisse bei deutschen Texten eingeschränkt; „Keine nennenswerten KI-Textsignale“ ist daher kein Nachweis menschlicher Urheberschaft.

Bei einem einzelnen Dokument können die Ergebnisse abweichen. Alle Werte und Bedingungen stehen auf der Seite Zuverlässigkeit der Dokumentprüfung.

Dass die Leistung von Textdetektoren je nach Bedingung stark schwankt, zeigt auch die Forschung: Die RAID-Studie (ACL 2024) fand bei den untersuchten Detektoren deutliche Unterschiede bei gezielten Umgehungsversuchen, anderen Generierungseinstellungen und im Training nicht gesehenen Modellen (RAID, ACL 2024). Deshalb veröffentlicht Fileverity Fehler- und Erkennungsquoten je Sprache und Bedingung (Zuverlässigkeit); testen Sie darüber hinaus mit Ihren eigenen Dokumentarten und Schreibbedingungen.

Fallbeispiel (fiktiv): KI-Erklärung zu einem IT-Sicherheitskonzept

Die Einkaufsabteilung der fiktiven Nordstern Logistik GmbH verlangt von einem neuen IT-Dienstleister ein ausführliches IT-Sicherheitskonzept als Teil der Lieferantenselbstauskunft. Die Einkaufsrichtlinie erlaubt KI-Unterstützung beim Formulieren, wenn sie offengelegt wird und eine verantwortliche Person die technischen Aussagen bestätigt. Der Dienstleister reicht zwölf Seiten Fließtext auf Deutsch ein und erklärt, keine KI genutzt zu haben.

Die Dokumentprüfung meldet „Hinweise auf KI-generierten Text“ im gesamten Dokument. Das Prüfteam stellt eine gezielte Frage: „Bitte erläutern Sie, wie diese Abschnitte entstanden sind, und stellen Sie, soweit vorhanden, Entwurfsstände, Quellennotizen oder einen Prüfvermerk zur Verfügung.“ Die technischen Kontrollen prüft der Informationssicherheitsbeauftragte unabhängig davon in der üblichen Sicherheitsbewertung. Allein wegen des Textbefunds wird der Dienstleister nicht abgelehnt.

Hätte die Prüfung „Keine nennenswerten KI-Textsignale“ ergeben, wäre die Erklärung des Lieferanten damit nicht bestätigt – gerade bei deutschen Texten mit einzelnen KI-Passagen. Behandeln Sie Erklärungen einheitlich. Erlaubt Ihre Richtlinie KI-Unterstützung ohne Offenlegung, verwenden Sie den Prüfaufwand besser auf die technischen Aussagen selbst. Denselben Ansatz für Schadenschilderungen und Atteste beschreibt die Seite KI-generierte Schadenunterlagen erkennen.

Jede Nachweisebene gezielt prüfen

Eingang sichern

Bewahren Sie die Datei so auf, wie sie eingegangen ist, mit Dateiname, Eingangszeit, Eingangsweg sowie Nachricht oder Vorgangsnummer. Arbeiten Sie mit getrennten Kopien. Ein SHA-256-Hashwert identifiziert die untersuchten Bytes später eindeutig; dass diese Bytes von einem legitimen Aussteller stammen, belegt er nicht.

Halten Sie fest, ob ein natives PDF, ein Scan, ein Handyfoto oder ein Screenshot vorliegt. Ein Screenshot reicht vielleicht, um einen Betrag zu lesen, aber nicht, um die Dateistruktur zu untersuchen. Fordern Sie den Originalexport über den vereinbarten Weg an, wenn es darauf ankommt. Dokumentieren Sie jede Konvertierung, Texterkennung oder jeden Zuschnitt aus Ihrem eigenen Prozess, damit solche Artefakte nicht dem Einreicher zugeschrieben werden.

Extrahierten Text mit der sichtbaren Seite abgleichen

Textextraktion hilft, Namen, Daten, Beträge und Referenzen zu finden. Die Texterkennung (OCR) schätzt Text aus den Pixeln einer Seite. Keines von beiden sollte bei einem entscheidenden Feld stillschweigend die sichtbare Vorlage ersetzen.

Vergleichen Sie den extrahierten Wert mit der Stelle auf der Seite. Liest die OCR eine Ziffer der IBAN anders, als das Prüfteam sie sieht, ist das eine Abweichung der Extraktion – klären Sie sie mit einer besseren Kopie oder beim Aussteller, statt sie als Änderungsbefund zu führen. Prüfen Sie auch die Seitenabdeckung: Fehlender extrahierter Text kann eine übersprungene Seite bedeuten, nicht fehlenden Inhalt. Die Dokumentation von OCRmyPDF erläutert etwa, dass die Textausgabe Seiten auslässt, die bereits Text enthalten oder übersprungen wurden, und dass eine falsche Spracheinstellung die Erkennungsqualität verschlechtern kann (OCRmyPDF Cookbook). Für deutsche Dokumente heißt das: Stellen Sie Deutsch als Erkennungssprache ein, sonst leiden Umlaute und ß.

Datei und Seitenbild getrennt betrachten

Die Untersuchung der Datei zeigt, ob Textebenen, eingebettete Bilder, Metadaten und Signaturen vorhanden sind. Halten Sie fest, was untersucht wurde und welche Fragen diese Beobachtungen beantworten können. Ein PDF-Erzeuger, der ein Bearbeitungsprogramm nennt, ist ein Hinweis auf eine Softwareverarbeitung, kein Beweis für ein böswillig ausgetauschtes Zahlungsfeld. Routinemäßiger Export und Weiterverarbeitung verändern Dateien ebenfalls.

Auf Seitenebene prüfen Sie wesentliche Felder im Zusammenhang. Abweichungen bei Ausrichtung, Zeichenbild oder lokaler Bildqualität rechtfertigen einen genaueren Vergleich. Wer etwas geändert hat und warum, zeigen sie nicht. Ein aus legitimen Quellen zusammengesetzter Scan kann ungleichmäßig aussehen; eine falsche Angabe kann völlig stimmig wirken. Nutzen Sie optische Beobachtungen, um ein Feld zur Verifizierung auszuwählen, und verwerfen Sie nicht eine ganze Seite wegen einer ungewöhnlichen Stelle. Gescannte Seiten und Fotos von Dokumenten lassen sich als Bild mit der Bildforensik von Fileverity auf lokal bearbeitete Bereiche prüfen.

Ist eine Signatur wesentlich, validieren Sie sie mit einem geeigneten Prüfwerkzeug und halten die tatsächlichen Ergebnisse fest, einschließlich der signierten Revision. Ein sichtbares Unterschriftsbild ist keine Validierung. Wie das geht, beschreibt der Ratgeber PDF auf Echtheit prüfen.

Historische Bankbilanz: Eine geänderte Zeile bricht die Summe

Dieser Vergleich nutzt einen echten Scan der Bilanz der Wachovia National Bank von 1906. Es handelt sich um die eigene Bilanz der Bank, nicht um einen Kontoauszug eines Kunden. In deutscher Schreibweise weist die Vorlage die Position „Kasse und Guthaben bei Banken“ (Cash and Due from Banks) mit 268.231,30 $ und die Summe der Aktiva mit 839.320,91 $ aus; die im Druck abgesetzten Cent-Beträge sind hier als Dezimalstellen wiedergegeben. Fileverity hat in einer Kopie mit KI diese Kassenzeile auf 368.231,30 $ geändert; die gedruckte Summe blieb bei 839.320,91 $.

Prüfen Sie zuerst den extrahierten Betrag gegen die sichtbare Zeile. Addieren Sie dann die Aktiva der bearbeiteten Kopie: Die unveränderte Summe von 839.320,91 $ plus die hinzugefügten 100.000 $ ergibt 939.320,91 $ – 100.000 $ mehr als die gedruckte Summe.

In einer echten Prüfung stellen Sie zuerst sicher, dass alle relevanten Zeilen, Korrekturen und Seiten vorliegen, bevor Sie feststellen, dass eine Summe nicht aufgeht. Die benötigten Finanzangaben bestätigen Sie anschließend über eine freigegebene unabhängige Quelle. Eine stimmige Rechnung allein bestätigt den Aussteller nicht. Eine gescannte Tabelle wie diese bewertet die Textprüfung von Fileverity nicht; das ist eine Aufgabe für den Zahlenabgleich und die Bildanalyse.

Unabhängige Bestätigung beim Aussteller

Unabhängig ist eine Bestätigung nur, wenn der Kontaktweg unabhängig zustande kam. Eine Telefonnummer auf der strittigen Rechnung, ein Link in deren E-Mail oder ein zweiter Anhang desselben Absenders ist keine eigenständige Quelle. Das Landeskriminalamt Sachsen-Anhalt rät, für Rückfragen zu geänderten Bankverbindungen „immer die Rufnummern, die Ihnen bereits zuvor bekannt waren und niemals aus den zuletzt mitgeteilten Kontaktdaten“ zu nutzen (LKA Sachsen-Anhalt, PM 006/2023).

Bitten Sie den Aussteller, die relevanten Felder zu bestätigen, nicht nur, ob das Layout vertraut aussieht. Bei einer geänderten Zahlungsanweisung bestätigen Sie Rechnungsnummer, Empfänger, Bankverbindung und die Befugnis zur Änderung im Rahmen Ihres Lieferantenprozesses. Sensible Angaben bleiben im geschützten Vorgang; geben Sie nur weiter, was für die Bestätigung nötig ist.

Fallbeispiel (fiktiv): Rechnung mit geänderter Bankverbindung

Die Rechnung 1042 der fiktiven Hofmann Elektrotechnik GmbH über 18.400,00 € brutto stimmt mit Bestellung und Wareneingang überein. Die Begleit-E-Mail kündigt jedoch an: „Wir haben unsere Bankverbindung geändert.“ Rechnung und E-Mail nennen eine IBAN, die nicht in den Lieferantenstammdaten steht.

Das Prüfteam sichert Anhang und Nachricht, stellt fest, dass die angegebene IBAN von den freigegebenen Stammdaten abweicht, und hält die Zahlung auf das neue Konto im Prozess für Stammdatenänderungen an. Es ruft eine vertretungsberechtigte Person des Lieferanten über die Nummer aus dem Lieferantenstammblatt an. Die Commerzbank empfiehlt ebenfalls, jede Änderungsanfrage über einen separaten Kanal bestätigen zu lassen und Stammdatenänderungen nur im Vier-Augen-Prinzip freizugeben; sie weist zudem darauf hin, dass abweichende Bankverbindungen auch in QR-Codes auf Rechnungen stecken können (Commerzbank: Payment Diversion).

Ein zusätzliches Signal liefert die Empfängerüberprüfung (Verification of Payee). Seit dem 9. Oktober 2025 gleichen Banken bei Euro-Überweisungen innerhalb des EWR – Standard- und Echtzeitüberweisungen – vor der Freigabe den eingegebenen Empfängernamen mit dem Kontoinhaber der IBAN ab (IHK Halle-Dessau). Möglich sind die Ergebnisse Übereinstimmung, teilweise Übereinstimmung, keine Übereinstimmung und Prüfung nicht möglich; wer trotz Abweichung freigibt, zahlt an die eingegebene IBAN (Banco de España, 07.10.2025). Die Bezeichnungen unterscheiden sich je nach Bank und Software; DATEV etwa spricht von „Übereinstimmung“, „mit Abweichungen“ und „keine Übereinstimmung“ (DATEV: Die verpflichtende Empfängerüberprüfung).

Für das Prüfteam heißt das: „Keine Übereinstimmung“ oder eine nur teilweise Übereinstimmung ist ein Grund, die Zahlung anzuhalten. Eine Übereinstimmung beweist dagegen nicht, dass die Änderung befugt ist – auch ein Konto mit plausiblem Inhabernamen kann das falsche sein. Den Ausschlag gibt die unabhängige Bestätigung:

• Bestätigt: Stammdatenänderung im Vier-Augen-Prinzip abschließen, Empfängerüberprüfung dokumentieren, dann Zahlung freigeben.
• Widersprochen: strittige Anweisung sperren, an Informationssicherheit oder Betrugsabwehr eskalieren, Bestätigung des Lieferanten und unabhängig beschaffte Rechnung aufbewahren.
• Offen: verantwortliche Person und Frist für die fehlende Bestätigung festlegen; kommt sie nicht, entscheidet der etablierte Ausnahmeprozess.

Das Protokoll hält fest, welche Anweisung von wem bestätigt oder bestritten wurde. Die Zahlungsfrage lässt sich so klären, ohne den Anhang einer KI oder einem bestimmten Bearbeiter zuschreiben zu müssen. Den vollständigen Freigabeablauf mit Beträgen und Teilzahlungen beschreibt der Ratgeber Rechnung vor der Zahlung prüfen.

Den Vorgang nach dem offenen Risiko steuern

Arbeiten Sie mit Nachweisständen, die dem nächsten Prüfer sagen, was zu tun ist. Ein einziger Topf „verdächtig“ vermischt technische Grenzen, inhaltliche Widersprüche und gewöhnliche Verwaltungsausnahmen.

Wählen Sie den strengeren Weg, wenn die Folgen es verlangen – auch wenn ein Prüfwerkzeug nichts Auffälliges meldet. Umgekehrt sollte eine ungeklärte optische Abweichung eine verlässliche Bestätigung nicht ohne begründete Darstellung dessen verdrängen, was strittig bleibt.

Prüfprotokoll zum Übernehmen

Die Vorlage trennt Beobachtung, Schlussfolgerung, Absicherung und Maßnahme. Verweisen Sie auf geschützt abgelegte Nachweise, statt vollständige Identitäts- oder Bankdaten in Freitextnotizen zu kopieren.

Die Trennung macht nachvollziehbar, warum entschieden wurde. „Schriftart weicht ab“ ist eine Beobachtung. „Zahlungsblock möglicherweise ersetzt“ ist eine Schlussfolgerung. „Lieferant hat die Änderung über die bekannte Nummer bestritten“ ist eine Absicherung. „Zahlung angehalten und weitergeleitet“ ist eine Maßnahme. Wer alles zu „KI-Betrug erkannt“ zusammenzieht, verliert die nützlichsten Informationen.

Prüfwerkzeuge bewerten: Anfrage zum Kopieren

Bitten Sie jeden Anbieter, sein Produkt den vier Fällen vom Anfang dieses Ratgebers zuzuordnen. Fragen Sie nach unterstützten Formaten und Sprachen, Mindestanforderungen an den Eingang, dem Umgang mit nicht eindeutigen Ergebnissen, den aufbewahrbaren Nachweisen, Fehlerquoten je Sprache mit Stichprobengröße sowie Datenverarbeitung und Preis. Ein Produktname mit „Dokumentenechtheit“ ist keine Beschreibung des Prüfumfangs.

Testen Sie anschließend mit einer kleinen, freigegebenen Stichprobe. Für die Textherkunft gehören ausreichend lange menschlich verfasste Texte, dokumentierte KI-Entwürfe und zulässig KI-unterstützte Texte nach Ihrer Richtlinie hinein – bei deutschsprachigen Unterlagen ausdrücklich auch Mischformen. Kurze Formulare und reine Scans bleiben als Abdeckungstest sichtbar, statt stillschweigend als unauffällig zu gelten. Für Bild- oder Feldprüfungen nutzen Sie eine eigene Sammlung mit bekannten Änderungen und verlässlichen Referenzen. Eine solche Vorprüfung ersetzt keine geplante Evaluierung.

Für Fragen zur Textherkunft beginnen Sie mit der Dokumentprüfung von Fileverity; die erste Dokumentprüfung ist kostenlos und zeigt Risikostufe und Handlungsempfehlung; für Schadenpakete mit Fotos oder PDFs, deren Bearbeitungsverlauf zählt, schaltet ein Dokumentguthaben den vollständigen Bericht frei. Die Preise stehen unter Preise. Jeder Prüfbericht nennt den SHA-256-Hashwert der Datei und lässt sich über eine öffentliche Verifizierungsseite prüfen. Der Validierungsstatus des Zeitstempels nach RFC 3161 und des PDF-Siegels wird ausgewiesen.

Datenschutz: Ihre Dateien werden nach der Analyse gelöscht und nie zum Training genutzt; die Analyse läuft auf von Entogo betriebenen Servern in Toronto, Kanada, und Enterprise-Kunden erhalten auf Anfrage eine private Bereitstellung. Alle Verarbeitungsorte stehen unter Sicherheit und Datenschutz, den Vertrag nach Art. 28 DSGVO finden Sie unter Auftragsverarbeitung.

Für Volumen, API oder Stapelverarbeitung sprechen Sie mit unserem Team und nutzen Sie diese Anfrage:

Wir prüfen [Dokumentarten] in [Sprachen], etwa [Menge] pro Monat. Unsere Richtlinie zur KI-Nutzung verlangt [konkrete Anforderung]. Die Dateien liegen als [Formate, Textebene vorhanden ja/nein, typische Textlänge] vor. Bitte bestätigen Sie den unterstützten Umfang, die Bedingungen zur Datenverarbeitung, Möglichkeiten zur Evaluierung und die Preise für diesen Ablauf.

Geht es um einen geänderten Betrag oder eine Signatur, folgen Sie dem Ratgeber PDF auf Echtheit prüfen; für Spesen- und Bewirtungsbelege den Ratgeber Gefälschte Belege erkennen. Wo Befugnis oder Tatsachen über das Ergebnis entscheiden, bleibt die Bestätigung durch den Aussteller Teil des Geschäftsprozesses.

Von Yang Zheng · Geprüft von Bill Liu