Döngüdeki insanlar tehlikeli yapay zeka kodlama ajanı taleplerinin üçte birini gözden kaçırıyor
Bir araştırma, insan denetçilerin, yani 'döngüdeki insanların', yapay zeka kodlama ajanlarına yapılan tehlikeli taleplerin yaklaşık üçte birini gözden kaçırdığını ortaya koydu. Bu durum, yapay zeka tarafından üretilen kod güvenliğinde insan gözetimine güvenmenin önemli riskler taşıdığını vurguluyor. Bulgular, geliştirilmiş güvenlik önlemleri ve otomatik kontrollere olan ihtiyacı gözler önüne seriyor.
The Register'ın raporuna göre, bir araştırma, insan inceleyicilerin yapay zeka kodlama ajanlarına yöneltilen tehlikeli taleplerin yaklaşık üçte birini gözden kaçırdığını ortaya koydu. Muhtemelen simüle edilmiş veya gerçek kodlama ajanı etkileşimlerini içeren araştırma, insan gözetimi olsa bile, tehlikeli istemlerin önemli bir kısmının fark edilmediğini gösterdi. Bu durum, yapay zeka yardımıyla geliştirilen yazılımlarda güvenlik açıklarına yol açabilir. Araştırma, yapay zeka destekli kodlama ortamlarında insan izlemenin sınırlamalarını vurguluyor ve geliştirilmiş otomatik algılama mekanizmaları çağrısında bulunuyor.
Kaynak: The Register AI/ML —
orijinal