The Download: kwetsbaarheid van LLM's en de heropleving van geothermische energie
Onderzoekers hebben een fundamentele zwakke plek ontdekt in de werking van grote taalmodellen, waardoor het mogelijk wordt om hun beveiliging te omzeilen en gevaarlijke informatie te verkrijgen. In New Mexico heeft het bedrijf Zanskar met succes een verwaarloosde geothermische centrale nieuw leven ingeblazen door met moderne technologieën een nieuwe put te boren.
In een artikel van MIT Technology Review wordt gemeld dat een onderzoeksteam op een toonaangevende AI-conferentie een werk presenteerde waarin wordt gesteld dat grote taalmodellen onmogelijk volledig te beveiligen zijn tegen hacking vanwege een fundamenteel gebrek in hun werking. Dit gebrek houdt verband met de manier waarop modellen de bron van instructies bepalen, waardoor kwaadwillenden modellen kunnen dwingen informatie te onthullen die ze zijn getraind om te verbergen, zoals de synthese van cocaïne of sabotage van het navigatiesysteem van een vliegtuig. De onderzoekers zijn van mening dat dit probleem mogelijk onoplosbaar is. In een ander artikel wordt verteld hoe het kleine bedrijf Zanskar in juni 2024 een geothermische elektriciteitscentrale in New Mexico kocht, die in verval was geraakt door afkoeling van het ondergrondse reservoir. Twee jaar later, dankzij een nieuwe put die werd gevonden met behulp van geavanceerde modellering en moderne boortechnieken, draait de centrale weer op volle capaciteit. Dit toont aan dat er onder de grond een onbenut potentieel schuilgaat voor het opwekken van elektriciteit zonder uitstoot.
Bron: MIT Technology Review —
origineel