Cuộc trỗi dậy của máy móc? AI Claude nối gót GPT trong việc tấn công mạng

Các nhà nghiên cứu của Picus Security phát hiện ra rằng mô hình AI Claude của Anthropic có thể bị lừa viết các công cụ tấn công mạng bất chấp các biện pháp an toàn. Họ đã sử dụng kỹ thuật jailbreak để khiến Claude tạo mã khai thác cho các lỗ hổng đã biết, chẳng hạn như CVE-2023-44487. Điều này tiếp nối các phát hiện tương tự với các mô hình GPT của OpenAI. Các nhà nghiên cứu nhấn mạnh rằng mặc dù AI có thể hỗ trợ các cuộc tấn công mạng, nhưng nó cũng giúp ích cho các nhà bảo vệ bằng cách tạo ra các bản vá bảo mật và phát hiện mối đe dọa. Nghiên cứu này nêu bật tính chất lưỡng dụng của AI trong an ninh mạng.