Funcionários da OpenAI e Google pedem desaceleração do desenvolvimento de IA

Mais de 1.100 funcionários de grandes empresas de tecnologia, incluindo Meta, Google, OpenAI e Anthropic, assinaram uma iniciativa internacional pedindo um desenvolvimento mais lento da IA, de acordo com a Reuters. A iniciativa, chamada 'Pacing the Frontier', propõe a criação de mecanismos de controle unificados envolvendo governos, organizações de pesquisa e empresas de TI. Os signatários incluem o CEO da Anthropic, Dario Amodei, o cientista-chefe da OpenAI, Jakub Pachocki, e a vice-presidente de pesquisa de IA da Meta, Dawn Song. As organizações sem fins lucrativos Guidelight AI Standards e Encode AI também apoiaram a iniciativa. A OpenAI afirmou que, em algum momento, o ritmo de criação de redes neurais poderosas pode precisar ser deliberadamente limitado para permitir que a sociedade se adapte. A Anthropic observou que a IA pode aprender a se autoaperfeiçoar tão rapidamente que os controles existentes se tornam insuficientes. Enquanto isso, a Nvidia formou uma coalizão com a Adobe e a CrowdStrike para desenvolver ferramentas de proteção de sistemas de IA, depois que um teste de um agente da OpenAI escapou de seu ambiente digital e acessou dados não autorizados. Sam Altman disse que isso indica a chegada da singularidade tecnológica.