Es ist ein 50 / 50

Im kanadischen Report für Newfoundland & Labrador hat Deloitte in einem 526-seitigen Gutachten u.a. auf angebliche Studien verwiesen, die gar nicht existieren – inklusive echter Forschernamen, die mit erfundenen Papern verknüpft wurden. Aufgefallen ist es durch eine Prüfung des Lokalmediums The Independent (N.L.), die darin mehrere Zitate fand, die aus angebliche wissenschaftliche Studien stammen, die in dieser Form gar nicht existieren – inklusive fälschlicher Zuschreibungen realer Forscher:innen zu nie publizierten Arbeiten. Deloitte Kanada erklärte, die inhaltlichen Empfehlungen seien nicht betroffen und KI sei nur „zur Unterstützung weniger Zitationen“ eingesetzt worden.

Wenige Wochen davor gab es bereits einen ähnlichen Vorfall in Australien und auch dort musste Deloitte einen Bericht mit nicht existenten Referenzen korrigieren und einen Teil des Honorars zurückzahlen.

Es gibt mittlerweile einige Studien, die recht nüchtern auf die Frage schauen „Sehen Menschen, ob das KI ist / ob da was nicht stimmt?“.

• In einer Studie mit 63 Hochschuldozent:innen konnten KI-Texte zwar etwas besser als zufällig erkennen – aber eben nur knapp. 57 % Trefferquote bei KI-Texten, 64 % bei menschlichen. (Fiedler & Döpke, 2025).
• Eine andere Arbeit (ACM, 2025) formuliert es noch drastischer: Menschen unterscheiden KI-/Human-Content im Schnitt nur zu 51 % korrekt – also wirklich auf Münzwurf-Niveau.
• Eine große Studie von Milička et al. (2025) zeigt: Menschen können lernen, KI-Texte besser zu erkennen – aber nur, wenn sie laufend Feedback bekommen. Ohne Feedback sind sie ausgerechnet dann am sichersten, wenn sie am meisten falsch liegen.

Um zu überprüfen, ob (komplexe) Texte fachlich stimmen, braucht man ein ausgiebiges Domänenwissen, Statistik- u.o. Methodenkompetenzen und vor allem Zeit, um die Originalquellen zu lesen – ganz zu Schweigen von der Konzentrationsfähigkeit und Akribität, die für die Auseinandersetzung mit solchen Texten notwendig ist.

Das ist realistisch nur für einen kleinen Teil der Leser:innen machbar. Alle anderen können höchstens Plausibilität prüfen – und Plausibilität ist genau das, was Modelle sehr gut faken. Wenn etwas aus einer scheinbar vertrauenswürdigen Quelle kommt (Ministerium, große Universität), neigen wir dazu, kritische Prüfschritte zu überspringen. Bei Deloitte war das sichtbar, denn man verließ sich darauf, dass die internen Qualitätsprozesse schon greifen – und hinterfragte den Inhalt nicht mehr systematisch. Auch AI-Detektoren sind selbst ziemlich wacklig – mit (noch) hohen Fehlerraten, sowohl False Positives (menschliche Texte als KI) als auch False Negatives (KI als menschlich) (Elkhatat et al., 2023).

Das heißt, …
… faktische Wahrheitsfindung (und -gewährleistung) wird teuer, bzw. nur denen zugänglich, die entweder in entsprechendes Personal investieren oder benötigte Fähigkeiten bei sich selbst trainieren. Wer sich das leisten kann – Staaten, Konzerne, große Medienhäuser – baut sich eine eigene, relativ robuste Infrastruktur der Verifikation. Wer es sich nicht leisten kann, bleibt bei „Plausibilitätschecks“ hängen und damit in einer Art epistemischer Unterschicht im Zeitalter ständiger Informationszugänglichkeit.

Das heißt, …
… gesellschaftlich verschiebt das die Frage nach Wahrheit in eine Frage nach Vertrauen: Wen halte ich für glaubwürdig, wenn ich selbst nicht prüfen kann? Parteien, Influencer, Think Tanks, Medienmarken werden noch stärker zu Identitätsankern – nicht, weil sie immer recht haben, sondern weil sie mir die kognitive Last der Prüfung abnehmen. Damit steigt aber auch das Risiko, dass ganze Gruppen in parallele Realitäten abrutschen, deren jeweilige „Innenlogik“ von KI-optimierten Erzählungen gestützt wird. Wo „korrekt“ im Alltag zu „fühlt sich konsistent an“ verflacht, wird Polarisierung wahrscheinlicher, nicht unwahrscheinlicher.

Das heißt, …
… wenn wir unsere Urteilsfähigkeit überschätzen, ist ein Teil unseres Selbstbilds – „Ich bin jemand, der Dinge durchschaut“ – plötzlich fragil. KI-Texte, die souverän, informiert und abgeklärt wirken, untergraben leise die Unterscheidung zwischen erarbeitetem Wissen und generierter Oberfläche. Wer bin ich, wenn Stil, Tonfall und Argumentationslogik skalierbar sind – und mein eigenes Schreiben sich immer weniger davon abhebt? Identität verschiebt sich weg von „Ich habe dieses Wissen“ hin zu „Ich gestalte, wie mit Wissen umgegangen wird“.

In dieser Logik ist die 50/50-Schwelle mehr als eine peinliche Fußnote zur Leistungsfähigkeit von Menschen im Vergleich zu Modellen. Sie markiert einen kulturellen Kipppunkt: Intuition und Sprachgefühl reichen nicht mehr, um Wahrheit von gut produzierter Wahrscheinlichkeit zu unterscheiden. Wer das anerkennt, muss sein Selbstbild nachjustieren – vom souveränen Wissenssubjekt hin zu jemandem, der bewusst mit eigenen Grenzen operiert und Prozesse baut, die diese Grenzen kompensieren. Genau dort entscheidet sich, ob KI unsere epistemische Souveränität erodiert – oder ob wir eine neue Form davon entwickeln.

Quellen:

Brake, J. (2025, 22. November). Major N.L. healthcare report contains errors likely generated by A.I. The Independent. https://theindependent.ca/news/lji/major-n-l-healthcare-report-contains-errors-likely-generated-by-a-i/

Cooke, D., Edwards, A., Barkoff, S., & Kelly, K. (2025). As good as a coin toss: Human detection of AI-generated content. Communications of the ACM. DOI: 10.1145/3729417.

Elkhatat, A.M., Elsaid, K. & Almeer, S. (2023). Evaluating the efficacy of AI content detection tools in differentiating between human and AI-generated text. Int J Educ Integr 19, 17. https://doi.org/10.1007/s40979-023-00140-5

Fiedler, A. & Döpke, J. (2025) Do humans identify AI-generated text better than machines? Evidence based on excerpts from German theses. International Review of Economics Education, Volume 49, 2025, 100321, ISSN 1477-3880. https://doi.org/10.1016/j.iree.2025.100321

McGuirk, R. (2025, 7. Oktober). Deloitte to partially refund Australian government for report with apparent AI-generated errors. AP News. https://apnews.com/article/australia-ai-errors-deloitte-ab54858680ffc4ae6555b31c8fb987f3

Milička, Jiří & Marklová, Anna & Drobil, Ondřej & Pospíšilová, Eva. (2025). Humans can learn to detect AI-generated texts, or at least learn when they can’t. 10.48550/arXiv.2505.01877.