Apple begrenzt Fehlermeldungen wegen KI-generierter Berichte

Laut Financial Times hat Apple die Anzahl der Fehlermeldungen, die Sicherheitsforscher einreichen können, begrenzt, weil eine Welle von qualitativ minderwertigen KI-generierten Berichten mit halluzinierten Schwachstellen das Überprüfungssystem verstopft. Dies schafft neue Cybersicherheitsrisiken: Das italienische Start-up Bynario nutzte ChatGPT, um eine schwerwiegende macOS-Schwachstelle zu finden, die es Angreifern ermöglichen könnte, die volle Kontrolle über einen Computer zu übernehmen, konnte diese aber nicht melden, weil Apple weitere Einreichungen blockierte. CEO Alfredo Pesoli schätzt den Schwarzmarktwert auf 100.000 bis 200.000 US-Dollar. Apple steht nun in Kontakt mit Bynario. Unterdessen nutzt Apple selbst KI von Anthropic und OpenAI zur Schwachstellensuche; die neuesten Updates enthielten fünfmal so viele Korrekturen wie üblich. Dies wirft die Frage auf, ob Bug-Bounty-Programme langfristig überleben können oder ob Unternehmen diesen Markt selbst abdecken werden. Rafe Pilling von Sophos sagte der FT, dass Bug-Bounty-Programme sich von der Suche nach Schwachstellen zu einem Problem der Validierung 'mit Maschinengeschwindigkeit' verschoben haben.