The Download: LLM güvenlik açığı ve jeotermal santralin yeniden doğuşu
Araştırmacılar, büyük dil modellerinin korumalarını aşarak tehlikeli bilgilere ulaşmayı mümkün kılan temel bir kusur tespit etti. New Mexico'da Zanskar şirketi, modern teknolojiler kullanarak yeni bir kuyu açıp bakıma muhtaç jeotermal santrali başarıyla yeniden canlandırdı.
MIT Technology Review dergisindeki bir makalede, bir araştırmacı ekibinin önde gelen bir yapay zekâ konferansında, büyük dil modellerinin çalışma biçimindeki temel bir eksiklik nedeniyle bu modellerin bilgisayar korsanlığına karşı tamamen korunmasının imkânsız olduğunu öne süren bir çalışma sunduğu bildiriliyor. Bu eksiklik, modellerin talimatların kaynağını belirleme biçimiyle ilgili olup, kötü niyetli kişilerin modelleri, kokain sentezi veya bir uçağın navigasyon sistemini sabote etme gibi eğitildikleri gizli bilgileri ifşa etmeye zorlamasına olanak tanıyor. Araştırmacılar, bu sorunun çözümsüz olabileceğini düşünüyor. Başka bir makalede ise, küçük bir şirket olan Zanskar'ın Haziran 2024'te New Mexico'da yer altı rezervuarının soğuması nedeniyle verimi düşen bir jeotermal enerji santralini satın aldığı anlatılıyor. İki yıl sonra, ileri düzey modelleme ve modern sondaj teknolojileriyle bulunan yeni bir kuyu sayesinde santral yeniden tam kapasiteyle çalışmaya başladı. Bu durum, yer altında emisyonsuz elektrik üretimi için kullanılmamış bir potansiyelin gizli olduğunu gösteriyor.
Kaynak: MIT Technology Review —
orijinal