ChatGPT-Quellen prüfen: halluzinierte Angaben erkennen

In der Bibliothek eines Schweizer Unilehrstuhls liegt ein Stapel zurückgewiesener Bachelorarbeiten der letzten zwölf Monate. Drei davon haben dieselbe Pointe: ein zentraler Beleg verweist auf einen Aufsatz, den es nicht gibt. Autor und Titel klingen seriös, die Seitenangabe ist präzise — die Quelle existiert trotzdem nicht. Die Studierenden haben ChatGPT gefragt, ChatGPT hat plausibel geantwortet, der Eintrag ist eins zu eins in die Arbeit gewandert. Die Prüfer:innen haben den Aufsatz nachschlagen wollen. Spätestens dann fällt es auf.

Dieser Beitrag ist eine Sammlung von sieben konkreten Detektionswegen, mit denen du halluzinierte Quellen in deiner eigenen Arbeit erkennst, bevor du sie abgibst. Kein Theorie-Essay — sieben Tests, je 30 Sekunden bis fünf Minuten, mit echten Mustern aus studentischen Arbeiten (anonymisiert).

Wenn du noch nicht weisst, warum Sprachmodelle Quellen erfinden, gibt es dafür einen eigenen technischen Beitrag: KI-Quellenhalluzinationen — wie und warum sie passieren. Hier geht es darum, was du als Studierende:r dagegen tust.

Ohne Upload starten: Ein vorgefülltes Beispiel-Zitat zeigt, wie eine halluzinierte Angabe auffällt. Keine Anmeldung. Beispiel-Zitat prüfen →

Was halluzinierte Quellen sind — kurz gefasst

Eine halluzinierte Quelle ist eine bibliographische Angabe, die ein Sprachmodell erfunden hat. Drei Varianten kommen in studentischen Arbeiten vor:

1. Komplett erfunden. Weder Autor:in, Titel noch Verlag existieren — oder existieren in dieser Kombination nicht.
2. Teil erfunden. Autor:in und Verlag stimmen, aber den Titel oder die Auflage gibt es nicht; oder die Seitenzahl liegt 50 Seiten daneben.
3. Falsch attribuiert. Quelle existiert, sagt aber nicht das, was zitiert wird — manchmal sogar das Gegenteil.

Die ersten beiden Varianten findest du mit den Tests 1–6. Die dritte braucht den Inhaltscheck aus Test 7. Wer ChatGPT als Quellenrechercheur benutzt hat, prüfe vorsichtshalber alle drei.

1. Der DOI-Test (10 Sekunden pro Zitat)

Jede ernstzunehmende wissenschaftliche Publikation hat heute einen Digital Object Identifier (DOI). Bei ChatGPT-generierten Quellenvorschlägen fehlt die DOI entweder ganz — oder sie ist erfunden.

So testest du:

1. Nimm die DOI aus dem Quellenvorschlag (Format: 10.xxxx/yyyy).
2. Hänge sie an https://doi.org/ an, also etwa https://doi.org/10.1234/zbp.2019.47.3.234.
3. Drück Enter. Resolviert sie auf das angegebene Paper, ist die Quelle echt. Führt sie auf ein 404, eine andere Arbeit oder eine generische Verlagsseite, ist sie halluziniert.

Echtes Muster aus einer Bachelorarbeit (anonymisiert):

Müller, J. (2019). Soziale Kognition und Vertrauensbildung in digitalen Lerngruppen. Zeitschrift für Bildungspsychologie, 47(3), 234–251. DOI: 10.1024/1010-0652/a000178

Die DOI sieht plausibel aus — Hogrefe-Format, das Schema stimmt formal. Resolviert sie? Tipp es ein. In drei von vier Fällen führt sie nirgendwohin oder zu einem völlig anderen Aufsatz aus 2014. Wenn die DOI lebendig ist, prüf noch Volume und Jahrgang: Hogrefe-Bildungspsychologie ist 2019 erst beim Band 33 angekommen, ein Band 47 hat es nie gegeben.

Fallstrick: Manche echten Quellen aus den 90ern haben tatsächlich keine DOI. Fehlende DOI ist also nicht automatisch Verdachtsmoment. Aber: bei Aufsätzen aus 2010+ ist eine fehlende DOI ungewöhnlich — und ChatGPT lässt das Feld bei Halluzinationen oft leer, um nicht ertappt zu werden. Mehr zum Format gibt es im Beitrag DOI, ISBN, ISSN — was in eine Quellenangabe gehört.

2. Google-Scholar-Test mit Anführungszeichen (30 Sekunden)

Bei jeder ChatGPT-Quelle nimmst du den exakten Titel in Anführungszeichen und packst ihn in Google Scholar (scholar.google.com).

Was du siehst:

• Mehrere Treffer mit demselben Titel → Quelle existiert, weiterprüfen.
• Genau ein Treffer mit anderem Titel, der nur Wörter teilt → halluziniert.
• Null Treffer in Google Scholar UND null Treffer in normaler Google-Suche → mit hoher Wahrscheinlichkeit erfunden.

Wissenschaftliche Literatur hinterlässt Spuren: Zitationen, Verlagsseiten, Bibliothekskataloge, Google-Books-Snippets. Ein Buch, das es seit 2017 gibt, dessen Titel aber 2026 nirgends online auftaucht, gibt es nicht.

Echtes Muster:

Ein Studierender bekommt von ChatGPT die Quelle “Schmidt, K. (2021). Grundlagen der quantitativen Sozialforschung in der Bildungsökonomie. Springer VS.” vorgeschlagen. Plausibel, oder? Schmidt ist ein häufiger Name, das Thema klingt sauber, Springer VS verlegt genau solche Bücher. In Google Scholar in Anführungszeichen: null Treffer. Im DNB-Katalog: kein Eintrag. Im Springer-Katalog: kein Eintrag. Frei erfunden.

Fallstrick: Sehr neue Quellen aus 2025 oder 2026 sind manchmal noch nicht voll indexiert. Falls der Titel neu ist und Scholar nichts findet, prüf zusätzlich beim Verlag direkt. Ist der Verlag auch leer, ist die Quelle weg.

3. Bibliothekskatalog deiner Hochschule (1 Minute)

Für Bücher (Monographien, Sammelbände) ist der schnellste Test der Katalog deiner Hochschulbibliothek. Schweizer Universitäten nutzen SLSP / Swisscovery, deutsche meist KIT-Karlsruhe oder Lokalkataloge, österreichische OBV. Such Autor + Stichwort.

Was du erwartest: echtes Buch → Treffer mit Signatur, Standort, Verfügbarkeit. Manchmal sogar das E-Book direkt.

Was du nicht erwartest: “Keine Treffer gefunden” bei einem angeblichen Standardwerk eines deutschsprachigen Universitätsverlages aus 2018. Mohr Siebeck, Suhrkamp, De Gruyter, Vandenhoeck & Ruprecht, Springer VS — diese Häuser sind in jedem Hochschulkatalog erfasst. Eine Lücke heisst: gibt es nicht.

Echtes Muster:

Hofmann, R. (2020). Diskursanalyse in der deutschen Politikwissenschaft. Suhrkamp, S. 187.

Rebecca Hofmann existiert, ist Politikwissenschaftlerin, hat aber bei Suhrkamp nie publiziert (Suhrkamp macht Belletristik und Philosophie, nicht politikwissenschaftliche Lehrbücher). Verlagsverwechslung = klassischer ChatGPT-Fehler. Im Swisscovery kein Treffer. Im DNB-Katalog kein Treffer. Halluziniert.

4. ISBN-Checksum und DNB-Treffer (1 Minute)

ISBN-13 ist mathematisch geprüft. Die letzte Ziffer ist eine Prüfsumme. Eine erfundene ISBN scheitert oft schon am Algorithmus.

Schneller Online-Test: https://www.isbn-check.de/ oder ein beliebiger ISBN-Validator. Einfügen, prüfen.

Zusätzlich: Suche die ISBN bei der Deutschen Nationalbibliothek. Ein deutschsprachiges Buch muss dort auftauchen — Pflichtablieferung. Kein DNB-Eintrag heisst kein Buch.

Echtes Muster:

ISBN 978-3-540-12345-6

Prüfsumme: Wenn du das System rechnest (Multiplikation der Ziffern mit 1 und 3 abwechselnd, Modulo 10), kommt die Prüfziffer 6 nicht heraus. Erfundene ISBN. Selbst wenn die Prüfsumme zufällig stimmt — die DNB hat keinen Eintrag. Tot.

Was eine ISBN tatsächlich aussagt und welches Format wann gilt, steht im Beitrag DOI, ISBN, ISSN — was in eine Quellenangabe gehört.

5. Seitenzahl-Sanity-Check (30 Sekunden)

ChatGPT erfindet Seitenangaben, ohne den realen Umfang des Buches zu kennen. Klassischer Fehler: zitiert “S. 234” aus einem Werk, das insgesamt 180 Seiten hat.

So testest du:

1. Suche das Buch im Hochschulkatalog oder bei Google Books — die meisten Treffer zeigen die Gesamtseitenzahl.
2. Vergleiche mit deiner zitierten Seitenangabe.
3. Liegt deine Seite jenseits des Buchendes oder im Index, ist das Zitat halluziniert oder zumindest falsch verortet.

Echtes Muster:

ChatGPT zitiert “Bourdieu, P. (1982). Die feinen Unterschiede. Suhrkamp, S. 612.” Das Buch existiert (gut), das Originalwerk hat in der Suhrkamp-Taschenbuchausgabe 957 Seiten (also S. 612 wäre möglich), in der ersten gebundenen Ausgabe aber nur etwa 800. Aber: Wenn du die Seite öffnest, behandelt sie ein anderes Thema als das, was die Studienarbeit behauptet. Das ist Variante 2 — Quelle existiert, aber die Seite ist falsch. Was du gegen das Original lesen musst, beschreibt die Checkliste zur Zitatprüfung in der Bachelorarbeit.

Fallstrick: Verschiedene Auflagen haben verschiedene Seitenzahlen. Wenn du die zweite Auflage 2007 zitierst, aber jemand die Erstauflage 1982 liest, sind die Seitenzahlen anders. Trag immer die genaue Auflage in deiner Quelle ein.

6. Journal-Volume und Erscheinungsjahr gegenchecken (1 Minute)

Bei Aufsätzen in Fachzeitschriften gibt es eine spröde, aber zuverlässige Prüfung: stimmt die angegebene Volume- und Heftnummer mit dem Erscheinungsjahr überein?

Jede etablierte Zeitschrift hat ein Volume pro Jahr (manche pro Halbjahr). Aus einem Volume + Jahr kannst du rekonstruieren, ob das Heft tatsächlich existiert. Beispiel: Die Zeitschrift für Soziologie hat 2024 ihren Volume 53, davor 52 (2023), 51 (2022) usw. Wenn ChatGPT dir “Vol. 67, Issue 4 (2024)” liefert, ist das frei erfunden — Volume 67 wäre rechnerisch erst 2038 erreicht.

So testest du:

1. Geh auf die Verlagsseite der Zeitschrift (oder JSTOR, ScienceDirect, SAGE Journals).
2. Such das Volume des angegebenen Jahres.
3. Schau, ob Issue und Aufsatztitel passen.

Echtes Muster:

Weber, S., & Lang, T. (2018). Resilienz als bildungspolitischer Begriff. Zeitschrift für Pädagogik, 64(6), 821–839.

Die Zeitschrift für Pädagogik existiert, sie hat 2018 wirklich Vol. 64, sie macht 6 Hefte pro Jahr — alles formal sauber. Im Beltz-Archiv 2018/Heft 6: andere Autoren, andere Themen, der Aufsatz ist nicht dabei. Halluziniert. ChatGPT hat das richtige Schema gefüllt, aber den Inhalt erfunden.

Spezialfall predatorische Zeitschriften: Manchmal existiert die Zeitschrift, aber sie ist räuberisch — also wissenschaftlich wertlos. Das ist eine andere Klasse Problem und steht ausführlich im Beitrag Predatory Journals erkennen.

7. Der inhaltliche Realtext-Check (2–5 Minuten pro Zitat)

Die ersten sechs Tests entlarven Existenz-Halluzinationen — Quellen, die es nicht gibt. Die hinterhältigste Variante ist aber die Inhalts-Halluzination: die Quelle existiert, aber sie sagt nicht das, was du behauptest.

So testest du:

1. Besorg dir das Quell-PDF (Hochschulbibliothek, Fernleihe, Autor:innen anschreiben — Anleitung in Zitate in der Bachelorarbeit prüfen).
2. Spring auf die zitierte Seite. Lies den Abschnitt drumherum.
3. Vergleiche Wort für Wort bei wörtlichen Zitaten, Sinn für Sinn bei Paraphrasen.

Echtes Muster:

ChatGPT-Vorschlag: “Laut Habermas (1981) ist kommunikatives Handeln eine rein zweckrationale Form sozialer Interaktion.” Habermas existiert, das Buch (Theorie des kommunikativen Handelns) existiert. Aber: Habermas argumentiert in 1981 genau das Gegenteil — kommunikatives Handeln steht in expliziter Opposition zum zweckrationalen. ChatGPT hat das Standardwerk korrekt benannt und die Aussage invertiert. Klassische Inhalts-Halluzination.

Was du dir merken musst: Bei jedem zentralen Beleg in deiner Arbeit ist das der Test, der nicht weg darf. Tests 1–6 prüfen das Format, Test 7 prüft die Substanz. Wenn du nur 30 Zitate auf Substanz prüfst, prüf die 30 wichtigsten — die, an denen dein Argument hängt.

Bei Sekundärzitaten zusätzlich beachten: prüf nicht nur das, was im Zwischenautor steht, sondern wirf einen Blick ins Original. Manchmal hat schon der Zwischenautor falsch zitiert. Wie das sauber funktioniert, beschreibt Sekundärzitat richtig setzen.

Was tun, wenn du eine Halluzination findest?

Drei Optionen, in dieser Reihenfolge:

1. Echte Quelle finden. Wenn die zitierte Aussage inhaltlich korrekt ist, hat irgendein echter Autor sie sicher schon mal gesagt. Such die echte Quelle, ersetze die halluzinierte.
2. Aussage umformulieren, sodass sie keinen Beleg braucht. Wenn der Punkt allgemein bekannt ist (z. B. “Sprachmodelle generieren Token für Token”), kannst du ihn ohne Quelle stehen lassen.
3. Aussage streichen. Wenn du keinen Beleg findest und die Aussage zentral ist, war sie ohnehin spekulativ. Weg damit.

Was du nicht machst: die halluzinierte Quelle stehen lassen und hoffen, dass es niemand nachprüft. Prüfer:innen nehmen sich heute regelmässig drei bis fünf zufällige Zitate aus jeder Arbeit vor und schlagen sie nach. Eine erfundene Quelle führt im milden Fall zu Nachreichungsauflage, im schweren Fall zur Bewertung als Täuschungsversuch. Dann landet die Sache beim Prüfungsausschuss — und der hat Sanktionsspielraum bis zum Entzug des Titels. Mehr zur rechtlichen Seite gibt es im Beitrag Eidesstattliche Erklärung — was passiert bei Verstoss.

So verhinderst du Halluzinationen von Anfang an

Die effizienteste Prävention ist eine saubere Trennung: ChatGPT für Sprache, Bibliothek und Datenbanken für Quellen.

• Brainstorm, Gliederung, sprachliche Korrektur: ja, mit ChatGPT.
• Suche nach Fachliteratur, Quellenvorschläge, Bibliographieerstellung: nicht mit ChatGPT, sondern mit Google Scholar, Hochschulkatalog, Web of Science, JSTOR.
• Falls du ChatGPT trotzdem als Recherche-Start nutzt: jeden Vorschlag durch die Tests 1–6 jagen, bevor du ihn in Zotero importierst.

Welche KI-Nutzung in akademischen Arbeiten 2026 generell erlaubt ist, fasst der Beitrag ChatGPT als Quelle zitieren — was Hochschulen 2026 erlauben zusammen.

Wann lohnt sich ein automatisches Tool?

Manuelle Prüfung ist machbar, aber zäh. Bei 80 Zitaten in einer Bachelorarbeit brauchst du mit den Tests 1–6 etwa zwei Stunden, mit Test 7 (inhaltlich) noch einmal drei bis sechs Stunden. Wer im falschen Moment der Schlussphase darüber stolpert, kennt das Gefühl: Eine Halluzination genügt, um die Abgabe zu verschieben.

Die Existenzprüfung (Tests 1–4) siehst du an einem vorgefüllten Beispiel, inklusive erfundener und falsch zugeordneter Einträge. Beispiel-Zitat prüfen →

Die inhaltliche Prüfung lädt DOCX und Quell-PDFs hoch; mehrere Sprachmodelle prüfen jede Aussage gegen die vorliegende Stelle im Originaltext. Du bekommst pro Zitat zurück: belegt, teilweise belegt, nicht belegt — mit Quellenausschnitt und Konfidenzwert. Das deckt die Tests 5–7 ab. Die Belegprüfung mit Upload startet unter So funktioniert Acurio.

Einen direkten Vergleich verschiedener Tools gibt es im Beitrag Bachelorarbeit prüfen — Tools im Vergleich.

Zusammengefasst

Halluzinierte Quellen sind 2026 das häufigste neue Problem in studentischen Arbeiten — und das, was am verlässlichsten ein Prüfungsverfahren auslöst, wenn es entdeckt wird. Die sieben Tests in diesem Beitrag dauern in Summe wenige Minuten pro Zitat. Investiert sind sie immer; nicht investiert sind sie nur dann nicht teuer, wenn die Prüfer:innen ebenfalls nicht prüfen — und darauf solltest du dich nicht verlassen.

Die Faustregel: Jede Quelle, die nicht aus einer Datenbank, einem Bibliothekskatalog oder einer Fachzeitschrift mit funktionierendem DOI stammt, prüfst du gegen mindestens zwei der Tests 1–6. Wenn beide negativ sind, fliegt die Quelle raus.

Wer einmal mit einer halluzinierten Quelle in einer Arbeit erwischt wurde, prüft danach für den Rest des Studiums alles. Bequemer ist, das gleich am Anfang an einem vorgefüllten Beispiel zu tun. Beispiel-Zitat prüfen →