Anthropic restringe el acceso a Claude Mythos AI para identificar vulnerabilidades de seguridad
Anthropic
Anthropic ha limitado el acceso a Claude Mythos, una IA que identifica fallos de seguridad. Se descubrió que el modelo era efectivo demasiado rápido para una implementación segura, lo que suscita preocupaciones sobre el uso indebido de doble uso. Ahora el acceso está restringido.
Anthropic ha limitado el acceso a su modelo de inteligencia artificial Claude Mythos, diseñado para identificar vulnerabilidades de seguridad. La restricción se implementó porque el modelo demostró ser efectivo demasiado rápido, lo que podría conllevar riesgos de uso dual indebido, es decir, que se utilizara con fines malintencionados. Como resultado, el acceso a Claude Mythos ahora está restringido para evitar consecuencias negativas no deseadas.
Fuente: Anthropic (GNews) —
original