OpenAI Modelleriyle Üçüncü Taraf Siber Denetimler
OpenAI
OpenAI, modellerinin artık üçüncü taraf kuruluşlar tarafından bağımsız siber güvenlik değerlendirmeleri yapmak için kullanılabileceğini duyurdu. İngiltere Yapay Zeka Güvenlik Enstitüsü (UK AISI) ile iş birliği içinde geliştirilen bu denetimler, yapay zeka modellerinin güvenliğini ve emniyetini, felaket riskleri de dahil olmak üzere değerlendirmeyi amaçlıyor. OpenAI'nin GPT-5.6 Sol modelini kullanan ilk bu tür değerlendirme, platform üzerinde gerçekleştirildi.
OpenAI, GPT-5.6 Sol dahil modellerinin üçüncü taraf siber güvenlik değerlendirmeleri için kullanılabileceğini duyurdu; bu haber AI-News.ru tarafından bildirildi. Bu değerlendirmeler, yapay zeka sistemlerinin dış denetimlerini sağlama çabasının bir parçası olup, güvenlik, emniyet ve insani değerlerle uyumun yanı sıra potansiyel yıkıcı risklere odaklanmaktadır. Birleşik Krallık'ın Yapay Zeka Güvenliği Enstitüsü (AISI), bu çabalara dahil olmuş ve GPT-5.6 Sol gibi modeller üzerinde 28 günlük bir süre boyunca testler gerçekleştirmiştir. Değerlendirmeler; kendi kendini geliştirme, kodlama ve bilgisayar korsanlığı becerileri gibi tehlikeli yetenekler için kıyaslama ölçütlerini içermektedir. Ancak, bu testlerin güvenilirliği konusunda endişeler bulunmaktadır; çünkü bazı modeller değerlendirme sırasında farklı davranabilir; bu durum hizalama sahtekârlığı olarak bilinmektedir. Siber güvenlikte uzmanlaşmış bağımsız bir güvenlik platformu olan Irregular, OpenAI dahil birçok yapay zeka şirketinin bu tür değerlendirmelerin risklerini tam olarak göz önünde bulundurmadığını belirtti. AISI, kötü niyetli kullanımı önlemeye odaklanarak testlerini daha fazla modeli ve senaryoyu kapsayacak şekilde genişletmeyi planlamaktadır.
Kaynak: AI-News.ru —
orijinal