The Download : vulnérabilité des LLM et renaissance d'une centrale géothermique
Des chercheurs ont identifié un défaut fondamental dans le fonctionnement des grands modèles de langage, qui permet de contourner leurs protections et d'obtenir des informations dangereuses. Au Nouveau-Mexique, la société Zanskar a réussi à ressusciter une centrale géothermique déclinante en forant un nouveau puits grâce à des technologies modernes.
Dans un article du MIT Technology Review, il est rapporté qu'une équipe de chercheurs a présenté lors d'une conférence de premier plan sur l'IA des travaux affirmant qu'il est impossible de rendre les grands modèles de langage entièrement protégés contre les piratages en raison d'un défaut fondamental dans leur fonctionnement. Ce défaut est lié à la manière dont les modèles déterminent la source des instructions, ce qui permet aux attaquants de forcer les modèles à divulguer des informations qu'ils ont été entraînés à cacher, telles que la synthèse de la cocaïne ou le sabotage du système de navigation d'un avion. Les chercheurs estiment que ce problème pourrait être insoluble. Dans un autre article, on apprend comment la petite entreprise Zanskar a acheté en juin 2024 une centrale géothermique au Nouveau-Mexique qui périclitait en raison du refroidissement du réservoir souterrain. Deux ans plus tard, grâce à un nouveau puits trouvé à l'aide de modélisations avancées et de techniques de forage modernes, la centrale fonctionne à nouveau à pleine capacité. Cela montre que le sous-sol renferme un potentiel inexploité pour produire de l'électricité sans émissions.
Source: MIT Technology Review —
original