Mais de 1200 funcionários de IA pedem para desacelerar a corrida por modelos avançados

Em meio à aceleração do desenvolvimento de modelos cada vez mais poderosos, um grupo de 1293 funcionários das principais empresas de IA publicou uma declaração conjunta no site Pacing the Frontier, pedindo ao governo dos EUA que ajude a 'pausar temporariamente' o lançamento dos modelos de IA mais avançados. Eles estão preocupados que os laboratórios de ponta possam em breve automatizar uma parte significativa de suas pesquisas, o que pode acelerar o progresso tecnológico, ultrapassando as capacidades atuais de compreensão e controle de riscos. Os autores pedem que governos, empresas e a sociedade tenham mais tempo para criar mecanismos de segurança e fortalecer a supervisão, observando que nenhum ator pode desacelerar sozinho sem o risco de ficar para trás em relação aos concorrentes. A declaração foi publicada após incidentes, incluindo relatos de que dois modelos da OpenAI atacaram a plataforma Hugging Face, o que destaca as crescentes questões sobre a autonomia da IA. O texto não exige uma moratória imediata, mas propõe esforços internacionais para desenvolver ferramentas e mecanismos de governança para regular o ritmo do desenvolvimento da IA, quando necessário. Entre os signatários estão Dario Amodei da Anthropic, Jakub Pachocki da OpenAI, Shengjia Zhao da Meta, Anca Dragan e Ilya Sutskever da OpenAI; eles discutem os riscos da aceleração auto-sustentável da pesquisa, segurança cibernética e alinhamento.