Der Download: Die Schwachstelle von LLMs und die Wiederbelebung eines Geothermiekraftwerks
Forscher haben einen grundlegenden Fehler in der Funktionsweise großer Sprachmodelle entdeckt, der es ermöglicht, ihre Schutzmechanismen zu umgehen und gefährliche Informationen zu erhalten. In New Mexico hat das Unternehmen Zanskar erfolgreich ein verfallendes Geothermiekraftwerk wiederbelebt, indem es mit modernen Technologien eine neue Bohrung niederbrachte.
In einem Artikel des MIT Technology Review wird berichtet, dass ein Forscherteam auf einer führenden KI-Konferenz eine Arbeit vorgestellt hat, in der behauptet wird, dass große Sprachmodelle aufgrund eines grundlegenden Mangels in ihrer Funktionsweise nicht vollständig gegen Hackerangriffe geschützt werden können. Dieser Mangel hängt damit zusammen, wie die Modelle die Quelle von Anweisungen bestimmen, was es Angreifern ermöglicht, die Modelle dazu zu bringen, Informationen preiszugeben, die sie zu verbergen gelernt haben, wie zum Beispiel die Synthese von Kokain oder die Sabotage des Navigationssystems eines Flugzeugs. Die Forscher glauben, dass dieses Problem möglicherweise unlösbar ist. In einem anderen Artikel wird erzählt, wie das kleine Unternehmen Zanskar im Juni 2024 ein geothermisches Kraftwerk in New Mexico kaufte, das aufgrund der Abkühlung des unterirdischen Reservoirs in einem schlechten Zustand war. Zwei Jahre später, dank eines neuen Bohrlochs, das mit Hilfe modernster Modellierung und moderner Bohrtechnologien gefunden wurde, arbeitet das Kraftwerk wieder mit voller Leistung. Dies zeigt, dass unter der Erde ungenutztes Potenzial für die Gewinnung von Strom ohne Emissionen verborgen liegt.
Quelle: MIT Technology Review —
Original