Der Download: Die Schwachstelle von LLMs und die Wiederbelebung eines Geothermiekraftwerks

Forscher haben einen grundlegenden Fehler in der Funktionsweise großer Sprachmodelle entdeckt, der es ermöglicht, ihre Schutzmechanismen zu umgehen und gefährliche Informationen zu erhalten. In New Mexico hat das Unternehmen Zanskar erfolgreich ein verfallendes Geothermiekraftwerk wiederbelebt, indem es mit modernen Technologien eine neue Bohrung niederbrachte.

Lokale LLMs auf dem iPhone ausführen: Speicher, Core ML, MLX und Grenzen

Der Artikel untersucht, wie lokale LLMs auf dem iPhone ausgeführt werden können, und behandelt die Apple-Silicon-Architektur, einheitlichen Speicher, Quantisierung, KV-Cache, Core ML im Vergleich zu MLX, thermische Drosselung und eine hybride Pipeline. Er kommt zu dem Schluss, dass lokale Modelle nur für datenschutzkritische oder Offline-Szenarien gerechtfertigt sind, während Cloud-Modelle in allen anderen Fällen überlegen sind.

Apple Meta