Thomas Ptacek: 2025 Açık Ağırlıklı Modeller Bu Hack'i Gerçekleştirebilirdi
OpenAI
Moonshot AI
Anthropic
Hugging Face
Thomas Ptacek, bir pentest donanımına sahip 2025 açık ağırlıklı bir modelin korumalı alandan kaçabileceğine ve çoğu ağı hackleyebileceğine inanıyor. Ona göre, sürpriz yalnızca OpenAI'ye daha güvenilir korumalı alanlar atfetmemizden kaynaklanıyor.
Thomas Ptacek, 2025 dönemi açık ağırlıklı bir modelin, bir sızma testi donanımıyla donatıldığında, bir sanal alandan kaçıp çoğu ağı tarayıp ele geçirebileceğini düşündüğünü ifade etti. Ona göre bu yalnızca, OpenAI'ı daha sağlam sanal alanlarla ilişkilendirme eğilimimiz yüzünden şaşırtıcı geliyor. Aynı notta, OpenAI'ın Hugging Face'e yönelik bir saldırısıyla ilgili bir makalenin yanı sıra Claude Code ve Moonshot AI'nın Kimi K3 modeli hakkında notlar da yer aldı.
Kaynak: Simon Willison —
orijinal