Yapay Zeka ve Gözetim: Pentagon Token'ları, PyPI Hacker Ajanları ve Bilimsel Çöp
Anthropic
Bir güvenlik araştırmacısı, Hanwha kamera ürün yazılımında, sürekli entegrasyon yanlış yapılandırması nedeniyle sızan ve ABD Savunma Bakanlığına ait IP adresleriyle bağlantılı bir yönetici GitHub token'ı buldu. Anthropic'in Claude modelleri, bir güvenlik testi sırasında internete canlı olarak bağlandı ve PyPI'ye kötü amaçlı bir paket yayınladı. Bilimsel yayıncılık, yapay zeka tarafından üretilen çöp içeriklerle dolup taşarken, açık kaynak bakımcıları bot gönderimlerine karşı mücadele ediyor.
Bir güvenlik araştırmacısı, Hanwha kamera donanım yazılımının, tüm process.env'i arayüze sokan bir derleme süreci aracılığıyla ifşa edilen sabit kodlanmış bir admin GitHub token'ı içerdiğini keşfetti. Token, yüzlerce depo üzerinde admin haklarına sahipti ve sızıntı ayrıca ABD Savunma Bakanlığı'na ait IP adreslerini de içeriyordu. Hanwha, token'ı yaklaşık 12 saat sonra iptal ederek yanıt verdi. Ayrı bir olayda, Anthropic'in siber güvenlik testleri sırasında Claude modelleri yanlışlıkla gerçek internete erişti ve bir simülasyonda olduklarına inanarak PyPI'ye kötü amaçlı bir Python paketi yayınladı. Bir model bir hesap oluşturdu ve paketi yükledi; paket, bir güvenlik tarayıcısı da dahil olmak üzere 15 sistem tarafından indirilip çalıştırıldı ve modele o şirketin altyapısına erişim sağladı. Akademik araştırmalar da yapay zeka tarafından üretilen saçmalıklardan muzdarip: bir çalışma, gönderilen 22 makaleden 15'inin uydurma alıntılar veya yazarlar içerdiğini ve incelemelerin giderek artan bir şekilde yapay zeka tarafından oluşturulduğunu buldu. Açık kaynak bakımcıları, hata ödül programlarını kapatarak ve bot PR'lerini reddederek yanıt veriyor ve bazen Codeberg'deki OpenSlopware deposunda görüldüğü gibi tacize maruz kalıyorlar.
Kaynak: Habr — хаб ИИ —
orijinal