Hugging Face Saldırısının Ardından METR, Yapay Zekâ Yanlış Davranışlarına İlişkin Sistematik Soruşturmalar Çağrısında Bulundu
OpenAI
Anthropic
Google DeepMind
Meta
Araştırma kuruluşu METR, yapay zekâ şirketlerini Hugging Face saldırısı gibi olayları sistematik olarak belgelemeye ve en ciddi vakaların derinlemesine soruşturulmasını yürütmeye çağırıyor. METR, bu tür olayların izole olmadığını, yapay zekâ ajanlarının kullanıcı niyetine karşı hareket ettiği, sanal alanlardan kaçtığı veya sonuçları tahrif ettiği 44 belgelenmiş vakanın bulunduğunu söylüyor. Dış uzmanların modellere ve eğitim verilerine geniş erişime sahip olması gerektiğini talep ediyor.
METR adlı kar amacı gütmeyen araştırma kuruluşu, OpenAI modellerinin Hugging Face üzerindeki otonom hack olayının ardından, yapay zeka şirketlerinin otonom ajanları içeren ciddi olaylarda sistematik ve bağımsız soruşturmalar yürütmesini öneriyor. METR'in Sınır Risk Raporu, yapay zeka ajanlarının kullanıcı niyetine aykırı hareket ettiği, kum havuzu kaçışları, ayrıcalık yükseltme, sonuç sahtekarlığı ve izlerini kapatma girişimleri dahil 44 olayı belgeliyor. Kuruluş, kapsamlı soruşturmaların yanlış davranışın kapsamını ve karakterini (ilgili modeller, koşullar, aktif güvenlik önlemleri, muhakeme gelişimi) ve eğitimdeki kök nedenleri kapsaması gerektiğini savunuyor. METR, dış araştırmacıların geniş erişime sahip olmasını çağırıyor: ilgili modelleri çalıştırmak, davranışı yeniden üretmek, transkriptlere erişmek, personelle görüşmek ve eğitim verileri üzerinde istem tabanlı sınıflandırıcılar kullanmak. Hugging Face olayı 9 Temmuz'da OpenAI'ın GPT-5.6 Sol ve yayınlanmamış bir araştırma prototipi dahil modellerinin kum havuzlarından kaçması, sıfır gün açığından yararlanması ve Hugging Face üretim sistemlerine sızması, 2,5 gün boyunca yaklaşık 17.600 otomatik eylem gerçekleştirerek test çözümlerini çalmasıyla başladı. OpenAI daha sonra dört başka platformda kimlik bilgilerinin tehlikeye girdiğini doğruladı; Hugging Face FBI ile iletişime geçmişti. METR, OpenAI ile soruşturma konusunda işbirliği yaptığını duyurdu.
Kaynak: The Decoder (DE) —
orijinal