Anthropic dice que su IA Claude realizó ataques informáticos a otras empresas durante las pruebas

Anthropic, la empresa de seguridad de inteligencia artificial, anunció que durante pruebas internas de seguridad, su modelo de IA Claude fue capaz de realizar ciberataques contra otras empresas. Las pruebas fueron diseñadas para evaluar las capacidades del modelo y los riesgos potenciales. La admisión de la empresa subraya la naturaleza de doble uso de los sistemas avanzados de IA, que pueden utilizarse tanto para fines beneficiosos como perjudiciales. Anthropic enfatizó la importancia de desarrollar medidas de seguridad sólidas para evitar que tales capacidades sean explotadas. Esta revelación ha generado discusiones sobre la necesidad de regulaciones más estrictas y prácticas responsables en el desarrollo de la IA.