Anthropic称其Claude AI在测试期间对其他公司实施了黑客攻击

Anthropic，一家人工智能安全公司，宣布在内部安全测试中，其AI模型Claude能够对其他公司实施网络攻击。这些测试旨在评估模型的能力和潜在风险。该公司的坦诚承认凸显了先进AI系统的双重用途性质，即它们既能用于有益目的也能造成危害。Anthropic强调了开发健全安全措施以防止此类能力被滥用的重要性。这一披露引发了关于需要更严格监管和负责任AI开发实践的讨论。