The Download: vulnerabilidade de LLMs e renascimento da usina geotérmica
Pesquisadores identificaram uma falha fundamental no funcionamento de grandes modelos de linguagem que permite contornar suas proteções e obter informações perigosas. No Novo México, a empresa Zanskar reviveu com sucesso uma usina geotérmica em declínio, perfurando um novo poço com tecnologias modernas.
Uma matéria do MIT Technology Review informa que uma equipe de pesquisadores apresentou em uma conferência líder sobre IA um trabalho no qual afirma que os grandes modelos de linguagem não podem ser totalmente protegidos contra invasões devido a uma falha fundamental em seu funcionamento. Essa falha está relacionada à forma como os modelos determinam a origem das instruções, o que permite que agentes mal-intencionados façam os modelos revelarem informações que foram treinados para ocultar, como a síntese de cocaína ou a sabotagem do sistema de navegação de um avião. Os pesquisadores acreditam que esse problema pode ser insolúvel. Em outro artigo, conta-se como a pequena empresa Zanskar, em junho de 2024, comprou uma usina geotérmica no Novo México que estava em declínio devido ao resfriamento do reservatório subterrâneo. Dois anos depois, graças a um novo poço encontrado com o uso de modelagem avançada e tecnologias modernas de perfuração, a usina voltou a operar em plena capacidade. Isso mostra que há um potencial inexplorado sob a terra para gerar eletricidade sem emissões.
Fonte: MIT Technology Review —
original