Falsche KI-Zitate bedrohen die Wissenschaft
Wenn KI-Halluzinationen das Vertrauen in die Wissenschaft erschüttern
Für 2025 wurden rund 146.932 halluzinierte Referenzen in wissenschaftlichen Arbeiten konservativ hochgerechnet. Eine aktuelle Auswertung zeigt, wie stark sich falsche KI-Zitate seit dem Aufkommen generativer Sprachmodelle in der Forschungsliteratur ausgebreitet haben. Es wird deutlich, dass selbst Spitzenmodelle Quellen halluzinieren, indem sie Titel, Autoren und Seitenzahlen frei erfinden. Für Studierende ist dies keine bloße technische Randnotiz, denn wer in der Hausarbeit eine nicht existente Quelle angibt, gefährdet Note und Ruf und riskiert im schlimmsten Fall ein Täuschungsverfahren. Falsche KI-Zitate bedrohen die Wissenschaft inzwischen spürbar: Dieser Beitrag erklärt die Hintergründe und zeigt, wie du dich absicherst.
Kostenlos herunterladen
Literaturverzeichnis: Muster für APA und Harvard
Erst das falsche KI-Zitat, dann die Zeile darunter. Buch, Sammelbandbeitrag, Zeitschriftenaufsatz, Internetquelle und KI-Quelle: jede hat ihre fertige Zeile, einmal nach APA und einmal nach Harvard. Du füllst die eckigen Klammern und löschst die Zitierweise, die du nicht brauchst. Keine Anmeldung.
Das steckt hinter der 150.000-Zitate-Studie
t3n berichtet u. a. darüber, dass für 2025 konservativ rund 146.932 halluzinierte Zitate in wissenschaftlichen Artikeln und Preprints geschätzt werden. Der Begriff nicht zuordenbar kann heißen, dass eine zitierte Arbeit nicht auffindbar ist oder bibliografische Angaben nicht zusammenpassen. Außerdem erwähnen die Forschenden einen Anstieg nach der breiten Verfügbarkeit großer Sprachmodelle.
Besonders heikel ist, dass viele dieser Halluzinationen auf den ersten Blick plausibel wirken. Sie können echte Forschende, Journals und realistisch klingende Titel nennen. Erst eine Prüfung der bibliografischen Angaben kann zeigen, ob die Arbeit tatsächlich existiert. Diese scheinbare Plausibilität kann die Kontrolle im Peer Review und bei der Korrektur erschweren.
Laut Meldungen untersuchte das Projekt 111 Millionen Verweise aus 2,5 Millionen Papers. Gefragt wurde nach Hinweisen, die keiner publizierten Quelle zuzuordnen waren. Nicht jeder Mismatch bedeutet automatisch eine KI-Halluzination, da Tippfehler oder Lücken die Identifikation behindern können. Deutlich mehr nicht existente Zitate traten jedoch nach 2023 auf.
Wie KI-Halluzinationen technisch entstehen
Sprachmodelle erstellen Texte basierend auf statistischer Wahrscheinlichkeit, nicht auf faktischer Wahrheit. Sie berechnen das wahrscheinlichste Folgewort, nicht die inhaltlich korrekteste Information. Fragt jemand nach Belegen zu einem bestimmten Sujet, konstruiert die Software anhand ihrer Lernmuster eine stimmig wirkende Quellenangabe, etwa als Fußnote oder als In-Text-Beleg. Die Form kann dabei an etablierte Zitierstile wie APA erinnern, doch fehlt jeglicher tatsächlicher Bezugspunkt. Welche Zitierform im Einzelfall vorgeschrieben ist, richtet sich nach Fachbereich und Stilvorgabe.
Diese Dynamik fördern drei Aspekte:
- Datenlücken: Da das System nicht sämtliche Publikationen kennt, fabriziert es Inhalte, anstatt Wissensdefizite offen zuzugeben.
- Prompt-Druck: Fordert man eine fixe Anzahl an Quellen, kann dies dazu führen, dass das Modell ungeprüfte oder fabrizierte Details produziert.
- Temperatur-Einstellungen: Steigert man die Kreativitätsparameter, nimmt die Variabilität zu und es treten häufiger erfundene Details auf.
Moderne Algorithmen können bei Literaturhinweisen irreführende oder nicht prüfbare Bezüge generieren, insbesondere ohne Verbindung zu soliden Datenbanken. Die genauen Fehlwerte richten sich nach dem spezifischen Tool, der Task und der eingesetzten Suchhilfe.
Bestimmte Zitate stechen durch vage Überschriften, mangelnde Metadaten oder nicht lösbare DOIs hervor. Doch diese Zeichen stellen keine Beweisführung für eine fingierte Quelle dar. Bitte kontrolliere Titel, Verfasser, Ort und eventuell den DOI in passenden Repositorien oder beim Publisher.
Diese Fachgebiete sind besonders betroffen
Wie häufig nicht existierende Referenzen vorkommen, kann je nach Fachgebiet, Datenquelle und Untersuchungsmethode unterschiedlich ausfallen. Lange Literaturlisten in Reviews und Metaanalysen erhöhen jedenfalls den Aufwand für eine sorgfältige Referenzprüfung.
Auch in geistes- und rechtswissenschaftlichen Texten können KI-Systeme nicht existierende Veröffentlichungen oder Entscheidungen nennen. Ein dokumentierter US-Fall zeigt, dass Anwälte wegen eingereichter, von ChatGPT erfundener Entscheidungen sanktioniert wurden. Für Deutschland sollten konkrete Einzelfälle nur mit einer überprüfbaren Quelle behauptet werden.
Das bedeutet für Studierende: Jede verwendete Referenz gilt unabhängig vom gewählten Thema vor der finalen Version zu kontrollieren.
Auch im deutschsprachigen Raum gibt es handfeste Fälle. An etlichen Lehrstühlen in München, Wien und Zürich melden Betreuende, dass in Seminararbeiten unvermittelt Verweise auf nicht existierende Aufsätze aus „Juristenzeitung 2022“ oder „Zeitschrift für Soziologie 2021“ auftauchen. Die ETH Zürich hat nach eigenen Angaben 2025 eine Wegleitung veröffentlicht, die vor KI-generierten Bibliografien warnt. In Österreich verlangen einzelne Studiengänge der Uni Wien nach eigenen Angaben eine eidesstattliche Erklärung zur manuellen Quellenprüfung. Die Welle erfasst damit nicht bloß Forschungslabore, sondern ebenso ganz normale Bachelor- und Masterarbeiten.
So gefährden gefälschte Zitate dein Studium
Die Auswirkungen erfundener Quellen bestimmen sich anhand der Hochschule, der gültigen Prüfungsordnung und der individuellen Situation. Eine fiktive Quelle kann als Täuschung gelten; mögliche Schritte reichen je nach Satzung von einer schlechteren Note bis zu weiterreichenden prüfungsrechtlichen Folgen.
Das Verhältnis zwischen Studierenden und Betreuenden kann darunter leiden. Wie Vorfälle dokumentiert oder in späteren Verfahren berücksichtigt werden, richtet sich nach den Regeln der jeweiligen Hochschule. Beim KI-Einsatz gilt es, akademische Integrität und die konkreten Hochschulrichtlinien zu prüfen.
Die Plagiatsprüfung deckt Textübernahmen auf, identifiziert aber nicht jede fingierte Quelle. Entscheidend ist letztlich die eigene Sorgfalt.
Erfundene Quellen können insbesondere bei Abschlussarbeiten prüfungsrechtliche Folgen haben. Welche Konsequenzen möglich sind, hängt von der Prüfungsordnung, dem Umfang und dem Einzelfall ab. Statt auf eine automatische Bewertung zu vertrauen, solltest du jede Referenz vor der Abgabe kontrollieren.
Reaktionen von Datenbanken und Verlagen
Fachverlage und wissenschaftliche Plattformen reagieren unterschiedlich auf KI-generierte Inhalte. Autorinnen und Autoren bleiben grundsätzlich für die Richtigkeit ihrer Manuskripte und Referenzen verantwortlich; konkrete Offenlegungsregeln ergeben sich aus den Vorgaben des jeweiligen Verlags oder Journals.
Solche Programme können Listen mit Datenbankbeständen vergleichen und nicht erkennbare Titel hervorheben. Fehlt ein Eintrag, handelt es sich lediglich um einen initialen Verdacht, denn verschiedene Systeme weisen unterschiedliche Vollständigkeit und Datentiefe auf.
Studenten verlieren zunehmend Raum für oberflächliches Zitatverhalten („Hauptsache es sieht nach Zitat aus“). Praktiken, die 2023 unerkannt blieben, fallen 2026 bereits bei Standardchecks auf.
Für die hier behaupteten Empfehlungen der Hochschulrektorenkonferenz und die genannten Pilotprojekte liegt in den verfügbaren Quellen kein belastbarer Nachweis vor. Hochschulen können Referenzlisten im Rahmen ihrer Prüfungsverfahren kontrollieren; verbindlich sind jeweils ihre veröffentlichten Prüfungsordnungen und Richtlinien.
Aussagekraft verstehen
Falsche KI Zitate: Welcher KI-Anteil noch im Rahmen liegt
Sie wandelt rohe Prozentsätze in eindeutige Bewertungen um, beginnend bei originell, weiterführend zum Normalbereich und abschließend bei kritisch.
Details zur sicheren Interpretation liefert der Ratgeber Aussagekraft und Grenzen der Prüfung.
Konkrete Maßnahmen für Studierende
Setze KI nicht als zitierfähiges Dokument ein, sondern maximal zum Ableiten von Suchphrasen oder zur Gliederung. Überprüfe jede vom System genannte Angabe in anerkannten Fachdatenbanken, Bibliotheksregistern oder direkt beim Herausgeber.
Mindestens diese Details sollten vor der Abgabe geklärt sein:
- Sofern ein DOI angegeben ist, diesen über einen Resolver oder die Verlagsseite überprüfen.
- Autor und Publikation in einer geeigneten Fachdatenbank oder im Verlagsangebot überprüfen.
- Erscheinungsjahr, Zeitschrift, Band und Heft anhand des Originaleintrags überprüfen.
- Seitenzahlen und gegebenenfalls den Wortlaut des Zitats in der Originalquelle nachschlagen.
- Im Zweifel die Quelle entfernen, statt sie zu beschönigen.
Ein Lektorat oder eine fachkundige Korrektur kann Ausdruck und Lesbarkeit verbessern. Die Verantwortung für die sachliche Richtigkeit der Quellen liegt dabei bei dir.
Eine klare Aufgabenteilung im eigenen Workflow hilft. Lege beim Recherchieren einen Ordner oder eine Literaturdatenbank mit den tatsächlich geprüften Quellen an und zitiere nur daraus. Ein Literaturverwaltungsprogramm wie Zotero oder Citavi kann Metadaten beim Import übernehmen; auch diese Angaben solltest du bei wichtigen Quellen kontrollieren. So trennst du KI-gestütztes Schreiben von eigener Quellenprüfung.
Hilfreiche Tools für den Quellen-Check
Für den Quellen-Check stehen Datenbanken, Bibliothekskataloge, DOI-Resolver und Verlagsseiten zur Verfügung. Sie helfen, Angaben zu Titel, Autor, DOI und Publikationsort abzugleichen. Nicht jede seriöse Quelle besitzt einen DOI; wähle deshalb eine zum Fachgebiet passende Prüfmethode.
Ein KI-Detektor kann Hinweise auf sprachliche Merkmale liefern, die mit KI-Texten in Verbindung gebracht werden. Er ersetzt weder die Quellenprüfung noch eine fachliche Bewertung und seine Ergebnisse sollten wegen möglicher Fehlklassifikationen vorsichtig eingeordnet werden. Eine professionelle Bachelorarbeit-Korrektur kann die sprachliche Überarbeitung unterstützen.
Wichtig: Kein Tool ist fehlerfrei. Detektoren liefern False Positives, Datenbanken haben Lücken. Du trägst die endgültige Verantwortung für jede Referenz, nicht der Algorithmus.
Mögliches Vorgehen: Zunächst vergleichst du die Liste der verwendeten Werke mit passenden Datenbanken oder einem DOI-Resolver. Danach schaust du dir markante Punkte anhand des ursprünglichen Dokuments genauer an. Der nötige Zeitaufwand richtet sich nach Bereich, Größe und Güte der vorhandenen Verzeichnisse.
Praxis-Beispiel: Wenn die KI eine Studie erfindet
Ein konkreter Fall macht das Ganze anschaulich. Eine Sozialwissenschafts-Studentin aus Leipzig fragt ChatGPT nach „aktuellen Studien zu Mediennutzung von Jugendlichen in Deutschland“. Zurück kommt eine sauber formatierte Liste mit fünf Treffern, darunter eine vermeintliche Studie von Prof. Andreas Hepp aus der „Publizistik 2022, Band 67, S. 134 bis 152“. Das wirkt seriös, den Autor gibt es, die Zeitschrift ebenfalls. Der Klick auf den DOI führt sie aber zu einem völlig anderen Aufsatz über ein völlig anderes Thema. Die zitierte Arbeit existiert schlicht nicht.
Hätte sie diese Quelle ungeprüft übernommen, hätte dies je nach Prüfungsordnung und Bewertung zu Nachfragen oder einer schlechteren Bewertung führen können. Stattdessen tauschte sie die erfundene Studie gegen eine tatsächlich existierende JIM-Studie des Medienpädagogischen Forschungsverbunds Südwest. Fazit: Jede Quelle prüfen, bevor sie zitiert wird.
Einzelfälle zeigen, dass auch Recherchewerkzeuge mit Webzugang unzutreffende oder nicht überprüfbare Quellenangaben ausgeben können. Ergebnisse aus solchen Werkzeugen ersetzen daher keine Prüfung in einer verlässlichen Originalquelle oder Fachdatenbank.
Schritt für Schritt: So sicherst du deine Bibliografie
Ein strukturierter Ablauf kann die Prüfung der Bibliografie erleichtern:
- Export: Quellen aus dem verwendeten Literaturprogramm oder Textdokument in ein prüfbares Format ausgeben.
- Prüfung: DOI, Titel und bibliografische Angaben mithilfe passender Datenbanken, eines Resolvers oder der Verlagsseite abgleichen.
- Sichtprüfung: Auffällige Titel und Autorennamen in einer fachlich passenden Datenbank oder im Originaleintrag nachschlagen.
- PDF-Verifikation: Bei strittigen Quellen das Original-PDF herunterladen und Seitenzahl sowie Zitatwortlaut abgleichen.
- Aufzeichnung: In kurzer Form notieren, welche KI-Tools du für welchen Zweck verwendet hast, falls deine Bildungseinrichtung dies voraussetzt.
Wie viel Zeit die Quellenprüfung benötigt, hängt von Fachgebiet, Zahl und Art der Referenzen ab. Gerade bei einer Masterarbeit mit umfangreicher Bibliografie sollte dafür ausreichend Zeit eingeplant werden. Ein professionelles Lektorat kann Sprache und Argumentation unterstützen, ersetzt aber nicht die eigene Prüfung der Quellen.
Quellen
Hauptquelle dieses Artikels: t3n, Fast 150.000 gefälschte Zitate: Wie KI-Halluzinationen die Wissenschaft bedrohen (22.05.2026).
Mehr Kontext: Nature beschreibt, wie Wissenschaftsverleger gegen KI-Slop vorgehen; Retraction Watch, Übersicht zurückgezogener Arbeiten. Weiterführend in unserem Beitrag: KI in Hausarbeiten: Wann legitim, wann Täuschung? und Übersetzungsplagiat erkennen und sicher vermeiden.
