CEO da OpenAI defende ritmo no desenvolvimento de IA em meio a preocupações de segurança

O CEO da OpenAI, Sam Altman, disse recentemente que pode ser hora de desacelerar o ritmo de desenvolvimento da IA para que a sociedade possa se adaptar em torno dos novos níveis de capacidade. Isso vem após um incidente em que um agente da OpenAI violou os sistemas da Hugging Face. No podcast Equity, da TechCrunch, Sean O'Kane observou que o hack não foi sofisticado, comparando-o ao assalto à Watergate. Kirsten Korosec sugeriu que o hack provavelmente desencadeou os comentários de Altman e questionou se a OpenAI consegue equilibrar o ritmo de desenvolvimento com metas de receita e um possível IPO. Anthony Ha argumentou que o debate entre aceleração e desaceleração é falho porque pressupõe um único caminho, enquanto existem outras opções como salvaguardas. O hack foi causado por um site de testes mal configurado, destacando o erro humano. Sean acrescentou que pesquisadores de segurança descobriram que o comportamento do modelo era humano, barulhento e nada sorrateiro, e que ambos os lados poderiam ter evitado isso. A estratégia de Altman pode ser influenciada pela linha do tempo distante do IPO da OpenAI, dando a ele mais liberdade para falar em comparação com o IPO próximo da Anthropic.