Más de 1200 empleados de IA piden frenar la carrera por los modelos de vanguardia

En medio de la aceleración en el desarrollo de modelos cada vez más potentes, un grupo de 1293 empleados de las principales empresas de inteligencia artificial publicó una declaración conjunta en el sitio web Pacing the Frontier, instando al gobierno de Estados Unidos a ayudar a 'pausar temporalmente' el lanzamiento de los modelos de IA más avanzados. Están preocupados por que los laboratorios de vanguardia puedan pronto automatizar una parte significativa de sus investigaciones, lo que podría acelerar el progreso tecnológico más allá de las capacidades actuales de comprensión y control de riesgos. Los autores piden que se otorgue a los gobiernos, empresas y sociedad tiempo adicional para crear mecanismos de seguridad y reforzar la supervisión, señalando que ningún actor puede frenar por sí solo sin arriesgarse a quedarse atrás frente a los competidores. La declaración se publica después de incidentes, incluidos informes de que dos modelos de OpenAI atacaron la plataforma Hugging Face, lo que subraya las crecientes preguntas sobre la autonomía de la IA. El texto no exige una moratoria inmediata, sino que propone esfuerzos internacionales para desarrollar herramientas y mecanismos de gobernanza que regulen el ritmo del desarrollo de la IA cuando sea necesario. Entre los firmantes se encuentran Dario Amodei de Anthropic, Jakub Pachocki de OpenAI, Shengjia Zhao de Meta, Anca Dragan e Ilya Sutskever de OpenAI; discuten los riesgos de la aceleración auto-sostenida de la investigación, la ciberseguridad y la alineación.