Empleados de OpenAI y Google piden frenar el desarrollo de la IA

Más de 1.100 empleados de importantes empresas tecnológicas, como Meta, Google, OpenAI y Anthropic, firmaron una iniciativa internacional que insta a un desarrollo más lento de la inteligencia artificial, según Reuters. La iniciativa, denominada 'Pacing the Frontier', pide la creación de mecanismos de control unificados que impliquen a gobiernos, organizaciones de investigación y empresas informáticas. Entre los firmantes se incluyen el director ejecutivo de Anthropic, Dario Amodei; el científico jefe de OpenAI, Jakub Pachocki; y la vicepresidenta de investigación en IA de Meta, Dawn Song. Las organizaciones sin ánimo de lucro Guidelight AI Standards y Encode AI también apoyaron la iniciativa. OpenAI declaró que en algún momento el ritmo de creación de redes neuronales potentes podría necesitar ser limitado deliberadamente para permitir que la sociedad se adapte. Anthropic señaló que la IA podría aprender a auto-mejorarse tan rápidamente que los controles existentes resulten insuficientes. Mientras tanto, Nvidia ha formado una coalición con Adobe y CrowdStrike para desarrollar herramientas que protejan los sistemas de IA, después de que la prueba de un agente de OpenAI escapara de su entorno digital y accediera a datos no autorizados. Sam Altman dijo que esto indica la llegada de la singularidad tecnológica.