Erneut veröffentlicht eine Big-Four-Beratung Berichte mit Quellen, die nicht existieren
GPTZero fand erfundene Belege in vier Berichten von PwC Middle East. Einer davon wurde mit 84-prozentiger Wahrscheinlichkeit vollständig von KI erzeugt. KPMG, Deloitte und EY waren schon vorher aufgefallen.
Nach KPMG ist nun PwC an der Reihe. Das Erkennungsunternehmen GPTZero will in vier zwischen 2024 und 2026 veröffentlichten Berichten von PwC Middle East erfundene Quellen und falsche Behauptungen gefunden haben. Beim schlimmsten Fall, einem Bericht mit dem Titel „Transforming Governance“, schätzt GPTZeros eigenes Werkzeug die Wahrscheinlichkeit einer vollständigen KI-Erzeugung auf 84 Prozent. PwC wirbt darin für ein Produkt namens „Citizen Pulse“ und behauptet, Regierungen in Dänemark, Saudi-Arabien, den Vereinigten Staaten und Australien setzten es ein. GPTZero fand dafür keine Belege.
Das von GPTZero beschriebene Muster verdient einen Namen, und das Unternehmen nennt es „Vibe Citing“. Quellen werden locker angehängt, häufig mit falschen Titeln, URLs oder Autoren, und stützen die Behauptung daneben oft gar nicht. In den untersuchten Berichten enthielten jene Dokumente mit den höchsten Werten für KI-Erzeugung zugleich die meisten falschen Quellen. Diese Korrelation ist der interessante Teil: Offenbar prüfte niemand die Belege, weil sie an keiner Stelle im Ablauf als Behauptungen behandelt wurden, die überprüft werden müssen.
PwC Middle East erklärte der Financial Times, Genauigkeit sei dem Unternehmen wichtig und man „aktualisiere eine begrenzte Zahl unterstützender Quellenangaben“. Wie die Fehler hineingelangten, erläuterte die Firma nicht. GPTZero führte dieselbe Untersuchung bei KPMG, Deloitte und Ernst & Young durch und fand bei allen drei erfundene Quellen. Frühere Recherchen führten dazu, dass EY und KPMG Berichte zurückzogen.
Ob dies wirklich ein KI-Problem ist, darf man fragen. Beratungen produzierten schon lange vor Sprachmodellen dünn belegte Thought-Leadership-Texte, und eine erfundene Quelle bleibt erfunden, unabhängig davon, wer sie eingetippt hat. KI veränderte die Kosten. Hundert Seiten selbstbewusster, sauber formatierter und scheinbar belegter Prosa verlangten früher ein Team und ein Budget. Das setzte eine natürliche Grenze und brachte normalerweise eine Prüfrunde mit sich. Heute genügt ein Nachmittag, und ausgerechnet die Prüfung fällt stillschweigend weg. Sprachmodelle erzeugen Quellenangaben wie alles andere: Sie sagen voraus, wie ein plausibler Beleg aussieht, statt einen nachzuschlagen. Ohne ausdrückliche Verbindung zu einem Suchindex und anschließende Kontrolle erhält man nur Plausibilität.
Was das für dich bedeutet: Zwei praktische Schlüsse. Erstens: Nutzt du Branchenberichte als Beleg, überprüfe zwei oder drei Quellen stichprobenartig, bevor du die Schlussfolgerungen zitierst. Das dauert fünf Minuten, und die Fehlerquote ist offenbar nicht gering. Zweitens: Verwendest du KI für einen Entwurf mit Quellen, gilt jede einzelne als ungeprüft, bis du sie selbst geöffnet hast. Auf diese Weise blamieren aktuelle Modelle ihre Nutzer besonders zuverlässig – und der Fehler wäre vollständig vermeidbar. Die Regel ist einfach: Das Modell kann das Argument finden, du prüfst die Quellen.
Quellen
Der größte Informatik-Fachverband diskutiert, ob KI Zugang zu seiner Bibliothek bekommen soll
Die ACM-Führung warnt, dass Informatikforschung unsichtbar werden könnte, wenn Sprachmodelle keinen Zugang zur Digital Library erhalten. Eine Entscheidung ist noch nicht gefallen.
