The Download: vulnerabilidad de los LLM y renacimiento de una planta geotérmica
Investigadores han descubierto un defecto fundamental en el funcionamiento de los grandes modelos de lenguaje que permite eludir sus protecciones y obtener información peligrosa. En Nuevo México, la empresa Zanskar ha reavivado con éxito una planta geotérmica en declive perforando un nuevo pozo con tecnologías modernas.
En un artículo de MIT Technology Review se informa que un equipo de investigadores presentó en una conferencia líder sobre IA un trabajo en el que se afirma que los grandes modelos de lenguaje no pueden hacerse completamente seguros contra la manipulación debido a un defecto fundamental en su funcionamiento. Este defecto está relacionado con la forma en que los modelos determinan la fuente de las instrucciones, lo que permite a los atacantes obligar a los modelos a revelar información que se les enseñó a ocultar, como la síntesis de cocaína o el sabotaje del sistema de navegación de un avión. Los investigadores creen que este problema puede ser insoluble. En otro artículo se cuenta cómo una pequeña empresa, Zanskar, compró en junio de 2024 una planta geotérmica en Nuevo México que estaba en declive debido al enfriamiento del reservorio subterráneo. Dos años después, gracias a un nuevo pozo encontrado con técnicas avanzadas de modelado y perforación moderna, la planta vuelve a funcionar a plena capacidad. Esto demuestra que bajo tierra se esconde un potencial sin explotar para obtener electricidad sin emisiones.
Fuente: MIT Technology Review —
original