Eine echte macOS-Schwachstelle blieb ungemeldet, weil Apples Bug-Bounty-Postfach in KI-Müll versank
Apple hat die Zahl der Bugreports begrenzt, die einzelne Sicherheitsforscher einreichen dürfen, weil eine Flut KI-generierter Meldungen mit erfundenen Schwachstellen die Warteschlange verstopft. Deshalb konnte ein italienisches Start-up eine echte macOS-Lücke zunächst nicht melden.
Apple begrenzt inzwischen, wie viele Sicherheitsmeldungen ein Forscher einreichen darf, und schreibt danach eine 30-tägige Wartezeit vor. Der Grund: Im Bug-Bounty-Postfach gehen massenhaft KI-generierte Einsendungen ein, die nicht vorhandene Schwachstellen beschreiben. Die Financial Times berichtete am Wochenende über die Änderung. Forscher können ein höheres Kontingent beantragen, aber die Begrenzung ist nun der Standard.
Die Nebenwirkung traf eine echte Lücke. Bynario, ein italienisches Sicherheits-Start-up, nutzte ChatGPT, um eine schwere macOS-Schwachstelle zu finden, über die ein Angreifer die vollständige Kontrolle über einen Rechner erlangen könnte. Als das Team sie melden wollte, hatte es Apples Einreichungslimit bereits erreicht und konnte den Bericht nicht abschicken. CEO Alfredo Pesoli schätzt, dass die Lücke auf dem grauen Markt zwischen 100.000 und 200.000 Dollar einbringen würde, dort werden solche Informationen an Menschen verkauft, die sie nicht melden. Apple hat das Unternehmen inzwischen direkt kontaktiert.
Darin steckt eine bemerkenswerte Ironie. Während Apple externe Meldungen ausbremst, setzt der Konzern intern Modelle von Anthropic und OpenAI ein, um im eigenen Code nach Fehlern zu suchen. Bei der jüngsten Update-Runde wurden ungefähr fünfmal so viele Fehler behoben wie bei einer typischen Veröffentlichung.
Was dahintersteckt. Ein Bug-Bounty-Programm ist ein dauerhaftes Angebot: Finde eine Sicherheitslücke in unserem Produkt, sag uns Bescheid, statt sie zu verkaufen, und wir bezahlen dich. Das ganze System beruht auf menschlicher Prüfung, und Prüfzeit ist die knappe Ressource. Sprachmodelle haben nicht verändert, wie ein guter Bericht aussieht. Sie haben aber die Kosten dafür gesenkt, etwas zu produzieren, das wie einer aussieht. Wer hofft, dass ein Prüfer den Bericht durchwinkt, kann nun in Sekunden eine erfundene Schwachstellenbeschreibung mit plausibler Fachsprache und selbstsicherem Ton erstellen. Das ist mit AI Slop gemeint: nicht absichtlich falsch, sondern schneller produziert, als irgendjemand es kontrollieren kann. Rafe Pilling von Sophos brachte den Wandel gegenüber der FT auf den Punkt: Aus dem Finden von Schwachstellen sei das Validieren von Schwachstellen im Maschinentempo geworden. Die offene Frage lautet, ob das Modell überhaupt bestehen bleibt oder ob die größten Unternehmen die Suche nach Lücken vollständig ins Haus holen und Außenstehende dafür nicht mehr bezahlen.
Was das für dich bedeutet: Wenn du kein Sicherheitsforscher bist, ändert sich heute nichts an deinem iPhone, und Apple liefert weiterhin in ordentlichem Tempo Fehlerbehebungen. Die übertragbare Lehre betrifft eher die Form des Problems als das Produkt. Jeder Prozess, bei dem Menschen Einsendungen lesen müssen, Bewerbungen, Förderanträge, Support-Tickets oder Moderationswarteschlangen, steht jetzt vor derselben Rechnung: Erzeugen ist billig geworden, Prüfen nicht. Wenn du so einen Prozess betreibst, ist ein intelligenterer Filter selten die Lösung. Meist hilft eine Hürde für den Absender, ein Reputationssignal oder ein kleiner verifizierter Kanal, der die Flut umgeht. Apple hat sich für die erste Option entschieden, und dadurch blieb eine echte Lücke eine Weile ungemeldet.
Quellen
Meta gab seinem KI-Agenten einen zweiten Agenten, dessen einzige Aufgabe das Erinnern ist
Bei langen Aufgaben vergessen Agenten Vorgaben und wiederholen gescheiterte Befehle. Meta AI setzt deshalb einen separaten Gedächtnis-Agenten ein, der strukturierte Aufzeichnungen führt und bei Bedarf mit einer Erinnerung unterbricht, in zwei Benchmarks brachte das bis zu acht Punkte.
