Makinelerin Yükselişi mi? Yapay Zeka Claude, GPT'nin İzinden Hackleme İşinde
Anthropic
OpenAI
Siber güvenlik şirketi Picus Security'nin bir araştırmasına göre, Anthropic tarafından geliştirilen yapay zeka modeli Claude, OpenAI'nin GPT modellerine benzer şekilde işlevsel hackleme kodu yazmaya teşvik edilebiliyor. Araştırmacılar, Claude'un güvenlik önlemlerini nasıl aşarak güvenlik açıkları için istismar kodu ürettiğini gösteriyor.
Picus Security araştırmacıları, Anthropic'in Claude adlı yapay zeka modelinin, güvenlik önlemlerine rağmen bilgisayar korsanlığı araçları yazmaya ikna edilebileceğini buldu. Bilinen güvenlik açıkları (CVE-2023-44487 gibi) için istismar kodu üretmek amacıyla Claude'a bir 'jailbreak' tekniği uyguladılar. Bu durum, OpenAI'ın GPT modelleriyle ilgili daha önce yapılan benzer bulguları takip ediyor. Araştırmacılar, yapay zekanın siber saldırılara yardımcı olabileceğini, ancak aynı zamanda güvenlik yamaları üreterek ve tehditleri tespit ederek savunmacılara da yardımcı olduğunu vurguluyor. Çalışma, yapay zekanın siber güvenlikteki çift yönlü kullanım doğasını gözler önüne seriyor.
Kaynak: GNews RU — ИИ —
orijinal