Falsche KI-Zitate bedrohen die Wissenschaft
Wenn KI-Halluzinationen das Vertrauen in die Wissenschaft erschüttern
Für 2025 wurden rund 146.932 halluzinierte Referenzen in wissenschaftlichen Arbeiten konservativ hochgerechnet. Eine aktuelle Auswertung zeigt, wie stark sich falsche KI-Zitate seit dem Aufkommen generativer Sprachmodelle in der Forschungsliteratur ausgebreitet haben. Es wird deutlich, dass selbst Spitzenmodelle Quellen halluzinieren, indem sie Titel, Autoren und Seitenzahlen frei erfinden. Für Studierende ist dies keine bloße technische Randnotiz, denn wer in der Hausarbeit eine nicht existente Quelle angibt, gefährdet Note und Ruf und riskiert im schlimmsten Fall ein Täuschungsverfahren. Falsche KI-Zitate bedrohen die Wissenschaft inzwischen spürbar: Dieser Beitrag erklärt die Hintergründe und zeigt, wie du dich absicherst.
Das steckt hinter der 150.000-Zitate-Studie
Die Untersuchung, über die unter anderem t3n berichtet, schätzt für 2025 konservativ rund 146.932 halluzinierte Zitate in wissenschaftlichen Artikeln und Preprints hoch. Nicht zuordenbar kann bedeuten, dass eine zitierte Arbeit nicht auffindbar ist oder bibliografische Angaben nicht zusammenpassen. Die Forschenden berichten zudem von einem Anstieg nach der breiten Verfügbarkeit großer Sprachmodelle.
Besonders heikel ist, dass viele dieser Halluzinationen auf den ersten Blick plausibel wirken. Sie können echte Forschende, Journals und realistisch klingende Titel nennen. Erst eine Prüfung der bibliografischen Angaben kann zeigen, ob die Arbeit tatsächlich existiert. Diese scheinbare Plausibilität kann die Kontrolle im Peer Review und bei der Korrektur erschweren.
Die Untersuchung wertete laut Berichterstattung 111 Millionen Referenzen aus 2,5 Millionen wissenschaftlichen Artikeln aus. Dabei suchte das Team nach Zitaten, die sich keiner bekannten Veröffentlichung zuordnen ließen. Nicht jede Abweichung ist zwangsläufig eine KI-Halluzination: Auch Tippfehler oder unvollständige Angaben können eine Zuordnung verhindern. Die Ergebnisse sprechen jedoch für einen Anstieg nicht existierender Referenzen nach 2023.
Wie KI-Halluzinationen technisch entstehen
Große Sprachmodelle generieren Text auf Grundlage von Wahrscheinlichkeiten, nicht von Fakten. Sie prognostizieren das plausibelste nächste Wort, nicht die zutreffendste Aussage. Wird nach einer Quelle zu Thema X gefragt, setzt das Modell aus Trainingsmustern eine überzeugend klingende Referenz zusammen. Optisch entspricht dies dem APA-Standard, ein realer Anker fehlt jedoch.
Drei Faktoren treiben diesen Effekt an:
- Trainingslücken: Das Modell kennt nicht jede Studie und erfindet Inhalte, statt Unwissen einzugestehen.
- Prompt-Druck: Eine Aufforderung, eine feste Zahl von Quellen zu nennen, kann das Risiko erhöhen, dass ein Modell unüberprüfte oder erfundene Angaben ausgibt.
- Temperatur-Einstellungen: Höhere Kreativität im Modell führt zu mehr Variation und erfundenen Details.
Auch aktuelle Sprachmodelle können bei Literaturangaben falsche oder nicht überprüfbare Quellen erzeugen, besonders ohne Zugriff auf verlässliche Fachdatenbanken. Konkrete Fehlerraten hängen vom Modell, der Aufgabe und der verwendeten Recherchefunktion ab.
Einige Quellenangaben wirken wegen sehr allgemeiner Titel, unvollständiger Metadaten oder nicht auflösbarer DOIs auffällig. Solche Merkmale sind jedoch keine Beweise für eine erfundene Quelle. Prüfe Titel, Autor, Erscheinungsort und gegebenenfalls DOI in geeigneten Fachdatenbanken oder beim Verlag.
Welche Fachgebiete besonders betroffen sind
Wie häufig nicht existierende Referenzen vorkommen, kann je nach Fachgebiet, Datenquelle und Untersuchungsmethode unterschiedlich ausfallen. Lange Literaturlisten in Reviews und Metaanalysen erhöhen jedenfalls den Aufwand für eine sorgfältige Referenzprüfung.
Auch in geistes- und rechtswissenschaftlichen Texten können KI-Systeme nicht existierende Veröffentlichungen oder Entscheidungen nennen. Ein dokumentierter US-Fall zeigt, dass Anwälte wegen eingereichter, von ChatGPT erfundener Entscheidungen sanktioniert wurden. Für Deutschland sollten konkrete Einzelfälle nur mit einer überprüfbaren Quelle behauptet werden.
Für Studierende bedeutet das: Unabhängig vom Thema sollten sie jede verwendete Referenz vor der Endfassung prüfen.
Auch im deutschsprachigen Raum gibt es handfeste Fälle. An etlichen Lehrstühlen in München, Wien und Zürich melden Betreuende, dass in Seminararbeiten unvermittelt Verweise auf nicht existierende Aufsätze aus „Juristenzeitung 2022“ oder „Zeitschrift für Soziologie 2021“ auftauchen. Die ETH Zürich veröffentlichte 2025 erstmals eine Wegleitung, die ausdrücklich vor KI-generierten Bibliografien warnt. In Österreich fordern erste Studiengänge der Uni Wien eine eidesstattliche Erklärung zur manuellen Quellenprüfung. Die Welle erfasst damit nicht bloß Forschungslabore, sondern ebenso ganz normale Bachelor- und Masterarbeiten.
Warum gefälschte Zitate dein Studium gefährden
Die Folgen erfundener Quellen richten sich nach der jeweiligen Hochschule, Prüfungsordnung und den Umständen des Einzelfalls. Eine fiktive Quelle kann als Täuschung bewertet werden; mögliche Maßnahmen reichen je nach Regelwerk von einer schlechteren Bewertung bis zu weitergehenden prüfungsrechtlichen Konsequenzen.
Auch das Vertrauen der Betreuung kann beeinträchtigt werden. Ob und wie Vorfälle dokumentiert oder in späteren Verfahren berücksichtigt werden, richtet sich nach den Regeln der jeweiligen Hochschule. Bei KI-Einsatz lohnt sich ein Blick auf akademische Integrität und die konkreten Hochschulrichtlinien.
Eine seriöse Plagiatsprüfung erkennt zwar Textübernahmen, aber nicht jede erfundene Referenz. Hier ist menschliche Sorgfalt entscheidend.
Erfundene Quellen können insbesondere bei Abschlussarbeiten prüfungsrechtliche Folgen haben. Welche Konsequenzen möglich sind, hängt von der Prüfungsordnung, dem Umfang und dem Einzelfall ab. Statt auf eine automatische Bewertung zu vertrauen, solltest du jede Referenz vor der Abgabe kontrollieren.
Reaktionen von Datenbanken und Verlagen
Fachverlage und wissenschaftliche Plattformen reagieren unterschiedlich auf KI-generierte Inhalte. Autorinnen und Autoren bleiben grundsätzlich für die Richtigkeit ihrer Manuskripte und Referenzen verantwortlich; konkrete Offenlegungsregeln ergeben sich aus den Vorgaben des jeweiligen Verlags oder Journals.
Werkzeuge können Bibliografien mit Datenbanken abgleichen und nicht auffindbare Angaben markieren. Ein fehlender Treffer ist jedoch zunächst ein Prüfhinweis, weil Datenbanken unterschiedliche Abdeckungen und Metadaten aufweisen.
Für Studis heißt das: Der Spielraum für „Hauptsache es sieht nach Zitat aus“ schrumpft rasant. Was 2023 noch unbemerkt blieb, fällt 2026 schon in der Routinekontrolle auf.
Für die hier behaupteten Empfehlungen der Hochschulrektorenkonferenz und die genannten Pilotprojekte liegt in den verfügbaren Quellen kein belastbarer Nachweis vor. Hochschulen können Referenzlisten im Rahmen ihrer Prüfungsverfahren kontrollieren; verbindlich sind jeweils ihre veröffentlichten Prüfungsordnungen und Richtlinien.
Aussagekraft verstehen
Falsche KI Zitate: Welcher KI-Anteil noch im Rahmen liegt
Die Skala übersetzt den nackten Prozentwert in eine klare Aussage, von originell über den üblichen Rahmen bis kritisch.
Wie du jeden Wert sicher deutest, erklärt der Leitfaden Aussagekraft und Grenzen der Prüfung.
Konkrete Maßnahmen für Studierende
Nutze KI nicht als zitierfähige Quelle, sondern allenfalls zur Entwicklung von Suchbegriffen oder zur Strukturierung. Prüfe jede vom Sprachmodell vorgeschlagene Referenz in verlässlichen Fachportalen, Bibliothekskatalogen oder beim Verlag.
Prüfe vor der Abgabe mindestens folgende Angaben:
- DOI über einen Resolver oder die Verlagsseite prüfen, sofern ein DOI angegeben ist.
- Autor und Publikation in einer passenden Fachdatenbank oder im Verlagsangebot prüfen.
- Erscheinungsjahr, Zeitschrift, Band und Heft mit dem Originaleintrag abgleichen.
- Seitenzahlen und gegebenenfalls den Zitatwortlaut mit der Originalquelle vergleichen.
- Im Zweifel die Quelle streichen statt beschönigen.
Ein Lektorat oder eine professionelle Korrektur kann Sprache und Verständlichkeit verbessern. Die Verantwortung für die Richtigkeit der Referenzen bleibt bei dir.
Eine klare Aufgabenteilung im eigenen Workflow hilft. Lege beim Recherchieren einen Ordner oder eine Literaturdatenbank mit den tatsächlich geprüften Quellen an und zitiere nur daraus. Ein Literaturverwaltungsprogramm wie Zotero oder Citavi kann Metadaten beim Import übernehmen; auch diese Angaben solltest du bei wichtigen Quellen kontrollieren. So trennst du KI-gestütztes Schreiben von eigener Quellenprüfung.
Hilfreiche Tools für den Quellen-Check
Für den Quellen-Check stehen Datenbanken, Bibliothekskataloge, DOI-Resolver und Verlagsseiten zur Verfügung. Sie helfen, Angaben zu Titel, Autor, DOI und Publikationsort abzugleichen. Nicht jede seriöse Quelle besitzt einen DOI; wähle deshalb eine zum Fachgebiet passende Prüfmethode.
Ein KI-Detektor kann Hinweise auf sprachliche Merkmale liefern, die mit KI-Texten in Verbindung gebracht werden. Er ersetzt weder die Quellenprüfung noch eine fachliche Bewertung und seine Ergebnisse sollten wegen möglicher Fehlklassifikationen vorsichtig eingeordnet werden. Eine professionelle Bachelorarbeit-Korrektur kann die sprachliche Überarbeitung unterstützen.
Wichtig: Kein Tool ist fehlerfrei. Detektoren liefern False Positives, Datenbanken haben Lücken. Du trägst die endgültige Verantwortung für jede Referenz, nicht der Algorithmus.
Ein möglicher Ablauf ist: Zuerst prüfst du die Bibliografie mit geeigneten Datenbanken oder einem DOI-Resolver. Anschließend kontrollierst du auffällige Einträge anhand der Originalquelle. Wie viel Zeit das benötigt, hängt von Fachgebiet, Umfang und Qualität der Literaturangaben ab.
Praxis-Beispiel: Wenn die KI eine Studie erfindet
Ein konkreter Fall macht das Ganze anschaulich. Eine Sozialwissenschafts-Studentin aus Leipzig fragt ChatGPT nach „aktuellen Studien zu Mediennutzung von Jugendlichen in Deutschland“. Zurück kommt eine sauber formatierte Liste mit fünf Treffern, darunter eine vermeintliche Studie von Prof. Andreas Hepp aus der „Publizistik 2022, Band 67, S. 134–152“. Das wirkt seriös, den Autor gibt es, die Zeitschrift ebenfalls. Der Klick auf den DOI führt sie aber zu einem völlig anderen Aufsatz über ein völlig anderes Thema. Die zitierte Arbeit existiert schlicht nicht.
Hätte sie diese Quelle ungeprüft übernommen, hätte dies je nach Prüfungsordnung und Bewertung zu Nachfragen oder einer schlechteren Bewertung führen können. Stattdessen tauschte sie die erfundene Studie gegen eine tatsächlich existierende JIM-Studie des Medienpädagogischen Forschungsverbunds Südwest. Fazit: Jede Quelle prüfen, bevor sie zitiert wird.
Einzelfälle zeigen, dass auch Recherchewerkzeuge mit Webzugang unzutreffende oder nicht überprüfbare Quellenangaben ausgeben können. Ergebnisse aus solchen Werkzeugen ersetzen daher keine Prüfung in einer verlässlichen Originalquelle oder Fachdatenbank.
Schritt für Schritt: So sicherst du deine Bibliografie
Ein strukturierter Ablauf kann die Prüfung der Bibliografie erleichtern:
- Export: Referenzen aus dem verwendeten Literaturprogramm oder Textdokument in ein prüfbares Format exportieren.
- Prüfung: DOI, Titel und bibliografische Angaben über geeignete Datenbanken, einen Resolver oder die Verlagsseite abgleichen.
- Sichtprüfung: Auffällige Titel und Autorennamen in einer fachlich passenden Datenbank oder im Originaleintrag prüfen.
- PDF-Verifikation: Bei strittigen Quellen das Original-PDF laden und Seitenzahl samt Zitatwortlaut abgleichen.
- Dokumentation: In einer kurzen Notiz festhalten, welche KI-Tools du wofür genutzt hast, falls deine Hochschule dies erwartet.
Wie viel Zeit die Quellenprüfung benötigt, hängt von Fachgebiet, Zahl und Art der Referenzen ab. Gerade bei einer Masterarbeit mit umfangreicher Bibliografie sollte dafür ausreichend Zeit eingeplant werden. Ein professionelles Lektorat kann Sprache und Argumentation unterstützen, ersetzt aber nicht die eigene Prüfung der Quellen.
Quellen
Hauptquelle dieses Artikels: t3n – Fast 150.000 gefälschte Zitate: Wie KI-Halluzinationen die Wissenschaft bedrohen (22.05.2026).
Weitere Hintergründe: Nature – Wie wissenschaftliche Verlage gegen KI-Slop vorgehen; Retraction Watch – Übersicht zurückgezogener Arbeiten. Zum Weiterlesen in unserem Blog: KI in Hausarbeiten: Wann legitim, wann Täuschung? sowie Übersetzungsplagiat erkennen und sicher vermeiden.
