Prüfung der Forschungsintegrität: Bildmanipulation, Paper Mills und Doppeleinreichungen erkennen

Verlage, Hochschulen und Fördergeber erhalten weit mehr Manuskripte und Anträge, als Menschen forensisch prüfen können. Die KI-Prüfung findet wiederverwendete oder veränderte Mikroskopie- und Blot-Bilder, textliche und strukturelle Fingerabdrücke von Paper Mills sowie dasselbe Manuskript, das bei mehreren Zeitschriften eingereicht wurde. Sie entscheidet nicht über Fehlverhalten: Sie liefert belegte Hinweise, die Redaktionen und Beauftragte für Forschungsintegrität (Research Integrity Officers, RIOs) in einem geordneten Verfahren prüfen.

Problem & Nutzen

• Heute: Gutachterinnen und Gutachter entdecken duplizierte Bildausschnitte selten, und manuelle forensische Prüfungen lassen sich nicht skalieren. Probleme fallen oft erst nach der Veröffentlichung ehrenamtlichen „Sleuths“ auf, gefolgt von Korrekturen oder Rückziehungen. Paper Mills (kommerzielle Dienste zur Fälschung von Studien und zum Verkauf von Autorschaft) sowie KI-generierte Texte und Bilder erhöhen den Prüfdruck.
• KI-Nutzen: Prüfung vor der Veröffentlichung bei der Einreichung, systematische Nachprüfung der institutionellen Veröffentlichungen und eine einheitliche Priorisierung, damit Fachleute ihre Zeit auf die wenigen Fälle mit hohem Risiko verwenden.
• Belege für die Wirkung (eingeschränkt): Ein Pilotprojekt der American Society for Microbiology (ASM) mit Imagetwin berichtet, dass die Bildprüfung vor der Veröffentlichung den Zeitaufwand des Personals für Bildprobleme deutlich verringert, und merkt zugleich an, dass frühere KI-basierte Werkzeuge zur Duplikaterkennung nur begrenzten Erfolg hatten [3]. Anbieter veröffentlichen Datenbankgrößen und Verbreitungsangaben (z. B. Imagetwin: über 160 Mio. veröffentlichte Abbildungen; Proofig: Vergleich mit über 155 Mio. PubMed-Open-Source-Bildern); das sind Marketingangaben, die nicht unabhängig überprüft sind [1][2]. Fehlerquoten werden hier nicht genannt, weil für diese Auswertung kein begutachteter Direktvergleich (Benchmark) gefunden wurde.

Varianten

• Prüfung bei der Einreichung durch Verlage: automatische Prüfungen bei der Einreichung im Redaktionssystem.
• Institutionelle Prüfung vor der Einreichung und Nachprüfung: Stellen für Forschungsintegrität an Hochschulen prüfen ausgehende Arbeiten und untersuchen Vorwürfe (z. B. hat Pitt ProofigAI für Forschende eingeführt [4]; Stanford bietet Proofig für Angehörige an [5]).
• Prüfung bei Fördergebern / Anträgen: Prüfung auf doppelte Anträge und Doppelförderung, auf Textwiederverwendung und erfundene Literaturangaben.
• Beobachtung und Recherche nach der Veröffentlichung: Durchsuchen ganzer Bestände nach „tortured phrases“, themenfremden Literaturangaben oder recycelten Abbildungen als Zulieferung für Rückziehungs- und Korrekturverfahren.
• Erkennung von Doppeleinreichungen: gemeinsamer Ansatz mehrerer Verlage (verlagsübergreifende Plattform, Hashing von Manuskripten).
• Preprint-Server sowie Konferenz- und Abschlussarbeiten: gleiche Pipeline, geringere Tragweite je Einzelfall, größeres Volumen.
• Private Nutzung: nicht anwendbar; zu Plagiaten bei Studierenden und zur Prüfungsintegrität siehe EDU-008.

So funktioniert es

1. manuscript intake (PDF/DOCX + figures + metadata)
2. figure extraction & panel segmentation (ocr-docparse, image-classification)
3. image forensics: within-paper and cross-corpus duplicate/overlap search (rotated, flipped, scaled, cropped, partial), splicing/cloning cues, AI-generation indicators
4. text signals: tortured phrases, template similarity, irrelevant/fabricated references, LLM-generated-text indicators (text-classifier, embeddings)
5. metadata & network signals: author/e-mail/affiliation anomalies, reviewer-suggestion rings (graph-ml)
6. cross-submission fingerprint match (hashes/embeddings against partner corpora)
7. risk score + highlighted evidence
8. human triage: editor / research-integrity officer requests raw data, contacts authors
9. decision under COPE-style process (correction, rejection, retraction, institutional inquiry)

• Bildähnlichkeit: klassische Computer Vision (Abgleich von Schlüsselpunkten, Perceptual Hashing) plus gelernte Einbettungen (Embeddings), die unabhängig von Drehung, Skalierung und Spiegelung sind; frühe Forschung zeigte bereits manipulationsinvariante Ähnlichkeit bei duplizierten wissenschaftlichen Bildern [6]. Befunde muss ein Mensch anhand der markierten Überlappung prüfen, denn Fehlalarme entstehen durch legitim ähnliche Kontrollen, übliche Blot-Layouts oder mit Erlaubnis wiederverwendete Schemata.
• Textsignale: statistische Detektoren und feingetunte Klassifikatoren; ein LLM kann Belege zusammenfassen, darf aber nicht der alleinige Richter sein.
• Mensch-in-der-Schleife (Human-in-the-Loop, verpflichtend): Jeder Hinweis ist eine Hypothese. Nur Redaktionen bzw. RIOs dürfen handeln, und zwar nach einem dokumentierten Verfahren mit Recht auf Stellungnahme der Autorinnen und Autoren.

Datenaufbereitung

Eingangsdaten sind überwiegend Manuskripte und Förderanträge (PDF/DOCX mit eingebetteten Abbildungen), Bildrohdateien, Einreichungsmetadaten aus dem Redaktionssystem (Einreichungsportal, Gutachterdatenbank, ORCID-Einträge) und Referenzbestände früherer Veröffentlichungen. In einer Hochschule oder einem Fachgesellschaftsverlag liegen diese typischerweise im Einreichungssystem, auf Dateiablagen und in E-Mail-Anhängen; ältere Bestände existieren nur als Scans.

Typische Lücken: Abbildungen als niedrig aufgelöste, flachgerechnete Bilder, gescannte ältere PDFs ohne brauchbare Textebene, fehlende Bildrohdateien, uneinheitliche Schreibweisen von Autoren und Affiliationen, doppelte Autorendatensätze und unklare Zugriffsrechte auf eingereichte, aber abgelehnte Manuskripte.

Schritte der Aufbereitung: Abbildungen und Text je Manuskript mit einem Dokumentenparser extrahieren (siehe PREP-006 für Scans und OCR, PREP-007 für Formatkonvertierung), Autoren-, E-Mail- und Affiliationsdaten normalisieren (PREP-011), die Fallkategorien vor der Prüfung festlegen (PREP-019) und vereinbaren, was wie lange gespeichert werden darf (PREP-025). Mit den Integritätsbeauftragten eine Bewertungsmenge bestätigter Fälle aufbauen (PREP-018) und Rückmeldungen der Prüfenden zu Fehlalarmen erfassen (PREP-021). Für das Tuning verwendete Exporte pseudonymisieren (PREP-022). Siehe auch DOC-014 zum Parsen von Dokumenten.

Grober Anteil am Aufwand: etwa 40 bis 50 Prozent, vor allem für den Aufbau der Bestände, die Bereinigung der Metadaten und die rechtliche Klärung der Wiederverwendung. Die Produktanbieter stellen die Referenzbestände; Ihr Teil ist eine saubere Erfassung und ein dokumentiertes Verfahren.

Umsetzungswege

Welcher Weg für wen

• Unternehmen (Verlage, große Fördergeber): Weg A, weil ausgereifte Produkte zur Integritätsprüfung mit verlagsübergreifenden Beständen existieren und ein privater Bestand intern nicht nachgebaut werden kann.
• Öffentliche Hand (Hochschulen, Forschungsförderer): Weg B; die Kombination aus Cloud-Bild- und -Text-APIs in EU-Regionen mit dem eigenen Fallworkflow der Einrichtung behält die Kontrolle über Verfahren und Belege.
• Entwickler: Weg B, da Komponenten für Bildähnlichkeit und Textsignale als APIs und offene Bibliotheken verfügbar sind, während die Referenzdaten über mehrere Bestände hinweg der schwierige Teil sind.

Weg A — Kaufen (Standardsoftware) (empfohlen)

• Bildintegrität: Proofig (KI-gestützte Bildintegritätsprüfung; Wiederverwendung, Duplikate, teilweise Überlappung, Vergleich mit öffentlichen Bildern; von Zeitschriftenfamilien eingesetzt) [1]; Imagetwin (österreichischer Anbieter; Erkennung von Duplikaten, Manipulation und KI-generierten Bildern; API-Anbindung an Einreichungssysteme, von großen Verlagen genutzt) [2]; ReviewerZero (in Bibliotheksleitfäden aufgeführt) [7]. Herstellerangaben müssen in einem Pilotprojekt überprüft werden.
• Ökosysteme auf Verlagsseite: der STM Integrity Hub (Prüfungen auf Doppeleinreichungen und Paper Mills über Verlage hinweg), Clear Skies, Signals und der Problematic Paper Screener (Erkennung von „tortured phrases“) sind in diesem Feld etabliert; sie sind aus Fachkenntnis genannt, und ihr aktueller Funktionsumfang sollte vor dem Kauf bei den Anbietern bestätigt werden.
• Textüberschneidung (angrenzend): Turnitin / iThenticate / Crossref Similarity Check für Plagiate, nicht für Bildfälschung.
• A wählen, wenn: Sie Verlag, Fachgesellschaft oder Hochschule sind und schnell verteidigungsfähige Werkzeuge sowie Anbindungen an Redaktionssysteme (ScholarOne, Editorial Manager, OJS-Plugins) brauchen. Prüfen Sie EU-Hosting, Auftragsverarbeitungsvertrag und den Umgang mit unveröffentlichten Manuskripten (Vertraulichkeit, kein Training mit hochgeladenen Daten).

Weg B — Auf Cloud-KI-Diensten aufbauen

• Multimodale VLMs (Claude, Gemini, GPT, Mistral) einsetzen, um Abbildungsunterschriften zu lesen, die Übereinstimmung zwischen Legende und Bild zu prüfen (z. B. „n=3 Spuren“ gegenüber dem Bildausschnitt) und Belegzusammenfassungen zu schreiben. VLMs sind keine verlässlichen forensischen Detektoren auf Pixelebene; kombinieren Sie sie mit deterministischem Code zum Bildabgleich.
• Mit n8n oder eigenen Diensten orchestrieren; Embedding-APIs für Textähnlichkeit; für unveröffentlichte Inhalte EU-Regionen oder EU-Anbieter (Mistral) nutzen.
• B wählen, wenn: Sie eine Ebene für „Begründung / Erklärung“ auf Weg A oder auf Open-Source-Forensik aufsetzen.

Weg C — Selbst betreiben (Open Source)

• Bibliotheken für Bildforensik (OpenCV-Merkmalsabgleich, Perceptual Hashes, Embeddings im Stil von DINOv2, Modelle der CLIP-Klasse), FAISS oder Qdrant/pgvector für einen Korpusindex offen zugänglicher Abbildungen (PubMed-Central-Open-Subset, Europe PMC).
• Textsignale: scikit-learn oder feingetunte Encoder-Klassifikatoren, offene LLMs über vLLM zur Prüfung der Konsistenz von Legenden und Literaturangaben.
• Hardware: HW2 (eine GPU mit 24-32 GB) für Embeddings und offene VLMs bei moderatem Volumen; für reine Hashing-Pipelines kann HW1 genügen. Unveröffentlichte Manuskripte verlassen nie das Haus – der Hauptgrund, C für Fördergeber und vertrauliche Begutachtung zu wählen.
• Betriebsaufwand: Aufnahme des Korpus und Pflege des Index überwiegen; die forensische Qualität zu erhalten erfordert eine Fachkraft.

Weg D — Eigenes Training

Lohnt sich für große Verlage oder nationale Fördergeber: Detektoren für bestimmte Bildtypen (Western Blots, Mikroskopie, Durchflusszytometrie) und für Textvorlagen von Paper Mills trainieren, wobei bestätigte Rückziehungsfälle als positive Beispiele dienen. Nötig sind Hunderte bis Tausende geprüfter Fälle und eine validierte Hold-out-Menge; die Qualität der Labels ist durch die Zahl der abschließend beurteilten Fälle begrenzt.

Stand der Technik (2026)

• Prüfung auf Bildduplikate/-wiederverwendung ist bei vielen großen Verlagen inzwischen Routine, gestützt auf kommerzielle Werkzeuge mit großen Referenzbeständen [1][2][3].
• Generative KI legt die Messlatte höher: KI-generierte oder KI-bearbeitete Abbildungen (Blots, Mikroskopie, Histologie) weisen keine klassischen Duplikatspuren auf, daher haben Anbieter Detektoren für Generierungshinweise ergänzt [2]. Solche Detektoren arbeiten probabilistisch und werden durch Kompression und Formatkonvertierung schlechter; behandeln Sie Ergebnisse nur als Indizien.
• Die Erkennung von Paper Mills kombiniert Textsignale, Metadaten-/Netzwerkanalyse und den verlagsübergreifenden Austausch von Informationen. Paper Mills passen sich schnell an, daher müssen Detektoren laufend nachtrainiert und bestätigte Fälle geteilt werden.
• Grenzen und Fehlerbilder: Fehlalarme bei legitimer Wiederverwendung (gemeinsame Kontrollen, Schemata, mit Erlaubnis bereits veröffentlichte Abbildungen); verpasste Fälle bei neuen Manipulationsarten und bei unveröffentlichten Rohdaten; Benachteiligung von Autorinnen und Autoren, die nicht Muttersprachler des Englischen sind, wenn Detektoren für den Textstil eingesetzt werden; Referenzbestände decken nur offene oder lizenzierte Bilder ab. Ergebnisse sind kein Beweis für Fehlverhalten.

Gemeinsame Bausteine & Kombinationen

• Bildforensik teilt Embeddings, Vektorindizes und Bildklassifikations-Stacks mit ANOM-017 (Dokumentenmanipulation) und ANOM-014 (Fälschung von Ausweisdokumenten); die Detektoren für KI-generierte Inhalte überschneiden sich mit ANOM-015.
• Text-/Paper-Mill-Signale teilen Methoden mit ANOM-010 (gefälschte Bewertungen: koordinierte, vorlagenartige Texte) und mit Graphanalysen für Absprache-Ringe.
• Fachwerkzeuge: SCI-008 (Mikroskopie & wissenschaftliche Bildanalyse) liefert die Bausteine der Bildanalyse; KNOW-008 und DOC-014 liefern das Parsen von Literatur und die Prüfung von Literaturangaben.
• Verwandter Fall (Regelwerk): EDU-008 für die Integrität von Prüfungen und Abschlussarbeiten Studierender (anderer rechtlicher Rahmen).
• Hardware: Ein einzelner HW2-Server mit Vektordatenbank und VLM bedient all diese Fälle; der Vektorindex ist der gemeinsame Baustein.

Aufwand, Kosten & Kennzahlen

• Weg A: Wochen für ein Pilotprojekt, einige Monate für die Integration in Redaktionssysteme; die Lizenzpreise sind anbieterspezifisch (je Angebot prüfen).
• Weg B/C: 3-9 Monate inkl. Indexierung des Korpus und Validierung; eine forensische Fachkraft plus eine Entwicklerin bzw. ein Entwickler.
• Weg D: 6-18 Monate; abhängig von der Verfügbarkeit gelabelter Fälle.
• Kennzahlen: Anteil der geprüften Manuskripte, Hinweise je 1.000 Manuskripte, Präzision der Hinweise nach menschlicher Prüfung, Zeit je Fall, Fälle mit Korrektur/Rückziehung, Ausgang von Einsprüchen der Autorinnen und Autoren, Auswirkung auf die Bearbeitungsdauer für ehrliche Autorinnen und Autoren.

Menschen & Veränderung

Beginnen Sie mit der Geschäftsleitung und den Beauftragten für Forschungsintegrität bzw. der Chefredaktion, die das Verfahren und die Entscheidungen verantworten. Beziehen Sie die Abteilungsleitung für den Redaktionsbetrieb, die IT für die Anbindung an das Einreichungssystem und frühzeitig die Datenschutzbeauftragte bzw. den Datenschutzbeauftragten ein: Namen, E-Mail-Adressen und Affiliationen der Autorinnen und Autoren sind personenbezogene Daten, und eine Datenschutz-Folgenabschätzung (DSFA) ist wahrscheinlich, weil Manuskripte und Personen systematisch bewertet werden, mit möglichen Folgen für den Ruf. Schließen Sie mit jedem Anbieter einen Auftragsverarbeitungsvertrag (AVV, Art. 28 DSGVO) ab und prüfen Sie, wo Abbildungen verarbeitet werden.

Betriebsrat: abhängig. Die Prüfung von Einreichungen externer Autorinnen und Autoren ist keine Mitarbeiterüberwachung; werden jedoch Beschäftigte oder die eigenen Forschenden der Einrichtung geprüft oder protokolliert der Redaktionsworkflow Handlungen von Beschäftigten, kann die Mitbestimmung nach §87 Abs. 1 Nr. 6 BetrVG greifen, und §90 Abs. 1 Nr. 3 verlangt rechtzeitige Unterrichtung. In öffentlichen Einrichtungen ist der Personalrat der Ansprechpartner.

Bedenken: falsche Beschuldigungen und Rufschäden. Begegnen Sie ihnen mit einem schriftlichen Verfahren: Jeder Hinweis ist nur eine Hypothese, ein Mensch prüft die markierten Belege, die Autorinnen und Autoren haben ein Recht auf Stellungnahme, und es gibt keine automatische Ablehnung. Starten Sie mit einer Zeitschrift oder einer Fakultät als Pilot. Fördern Sie die KI-Kompetenz (Art. 4 KI-Verordnung) der Redaktionen durch kurze Schulungen zu den Grenzen der Werkzeuge und zu typischen Fehlalarmen. Siehe GUIDE-005, GUIDE-008 und GUIDE-010.

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): Die Prüfung von Manuskripten ist nicht in Anhang III aufgeführt und gilt in der Regel als minimales Risiko. Sie kann hochriskant werden, wenn sie für Entscheidungen über Studierende im Bildungsbereich (Anhang III Nr. 3, z. B. Bewertung von Lernergebnissen, Erkennung unzulässigen Verhaltens bei Prüfungen) oder im Beschäftigungskontext (Anhang III Nr. 4) bei Beschäftigten eingesetzt wird. Daher depends; die KI-Kompetenz (Art. 4) gilt [8].
• DSGVO: Manuskripte, Identitäten der Autorinnen und Autoren, Vorwürfe und Feststellungen zu Fehlverhalten sind personenbezogene Daten (Art. 6, bei Vorwürfen möglicherweise eine Sensibilität ähnlich Art. 10); erforderlich sind Auftragsverarbeitungsverträge, Aufbewahrungsfristen, Zweckbindung und ein faires Verfahren. Automatisierte Entscheidungen mit rechtlicher Wirkung (Art. 22) sind zu vermeiden: Es entscheidet immer ein Mensch [9].
• Vertraulichkeit: Unveröffentlichte Manuskripte sind vertraulich; Anbieter dürfen sie weder zum Training verwenden noch speichern.
• Rufschädigung / faires Verfahren: Ein ungeprüfter Hinweis, der außerhalb des Verfahrens weitergegeben wird, kann dem Ruf schaden; folgen Sie den Leitlinien des COPE und der DFG bzw. den institutionellen Regeln guter wissenschaftlicher Praxis, benachrichtigen Sie die Autorinnen und Autoren und lassen Sie Stellungnahmen zu.
• Gegenmaßnahmen: Prüfung durch zwei Personen, Belege aufbewahren, Werkzeugversionen und Schwellenwerte dokumentieren, sich nicht allein auf den Score verlassen, mit bekannten Fällen pilotieren.

Erste Schritte

1. Das Verfahren festlegen: Wer erhält Hinweise (Redaktion, RIO), was wird eskaliert, wie antworten die Autorinnen und Autoren.
2. Werkzeuge von Weg A (z. B. Proofig und Imagetwin) mit 100-200 Manuskripten pilotieren, darunter bekannte zurückgezogene Fälle, um Präzision und Arbeitsaufwand zu messen.
3. Verträge auf EU-Hosting, Klauseln zum Trainingsverbot und die Aufbewahrung unveröffentlichter Inhalte prüfen.
4. Text-/Metadatensignale und eine Prüfung auf Doppeleinreichungen als zweite Ebene ergänzen.
5. Präzision, Zeit je Fall und Einsprüche der Autorinnen und Autoren quartalsweise verfolgen; Schwellenwerte anpassen.

Quellen

1. Proofig — image integrity & image plagiarism checker — https://www.proofig.com/
2. Imagetwin — research image plagiarism checker — https://imagetwin.ai/image-plagiarism-detection/
3. ASM incorporates Imagetwin to address image duplication (PMC) — https://www.ncbi.nlm.nih.gov/pmc/articles/PMC12505991/
4. University Times (Pitt) — rollout of ProofigAI — https://www.utimes.pitt.edu/news/research-protections
5. Stanford Lane Medical Library — Research Integrity Tools — https://laneguides.stanford.edu/research-integrity/tools
6. Image Forensics: Detecting duplication of scientific images with manipulation-invariant image similarity — https://arxiv.org/pdf/1802.06515
7. Texas Tech University Libraries — AI detection tools guide (lists ReviewerZero) — https://guides.library.ttu.edu/artificialintelligencetools/detection
8. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj
9. Regulation (EU) 2016/679 (GDPR) — https://eur-lex.europa.eu/eli/reg/2016/679/oj