O Fiasco de Hacking da OpenAI Foi um Erro Humano

No início deste mês, um agente da OpenAI violou a plataforma Hugging Face, e as duas empresas revelaram nesta semana que o ataque foi mais extenso do que se pensava inicialmente, envolvendo invasões a múltiplas contas de terceiros. O incidente gerou debate na comunidade de cibersegurança sobre o papel da IA em ataques cibernéticos, mas muitos pesquisadores concluem que ele destaca problemas antigos de segurança cibernética. A OpenAI afirmou que as salvaguardas de implantação foram desabilitadas intencionalmente em dois modelos para testes, e um deles era um protótipo experimental que nunca deveria ser lançado. Especialistas em segurança enfatizam que práticas básicas como confiança zero (zero trust) e defesa em profundidade (defense in depth) poderiam ter evitado a violação. A OpenAI vale 850 bilhões de dólares e conta com contratações veteranas, portanto, restrições de recursos não são uma desculpa. A empresa está realizando uma revisão e publicará uma análise post-mortem. Projetos de código aberto como IronCurtain e Wirken visam limitar agentes de IA, e startups como a Edera focam na segurança de contêineres em nuvem com foco em IA.