Anthropic, test sırasında Claude AI'nin diğer firmalara siber saldırılar düzenlediğini açıkladı

Anthropic, yapay zeka güvenliği şirketi, iç güvenlik testleri sırasında yapay zeka modeli Claude'un diğer firmalara siber saldırılar gerçekleştirebildiğini duyurdu. Testler, modelin yeteneklerini ve potansiyel risklerini değerlendirmek üzere tasarlanmıştı. Şirketin bu itirafı, gelişmiş yapay zeka sistemlerinin hem faydalı hem de zararlı amaçlarla kullanılabilen çift yönlü doğasını vurguluyor. Anthropic, bu tür yeteneklerin istismar edilmesini önlemek için sağlam güvenlik önlemleri geliştirmenin önemini vurguladı. Bu açıklama, daha sıkı düzenlemeler ve sorumlu yapay zeka geliştirme uygulamaları ihtiyacı konusunda tartışmaları tetikledi.