Vencedor da Medalha Fields Alerta para 'Eventos de Onicídio' Causados por IA e Junta-se à OpenAI

Jacob Tsimerman, um teórico dos números da Universidade de Toronto e recentemente agraciado com a Medalha Fields, anunciou que está se juntando à OpenAI para trabalhar em segurança de IA. Em uma entrevista, ele descreveu a IA como uma tecnologia extremamente transformadora e pediu um investimento significativamente maior em segurança de IA. Ele argumentou que os matemáticos podem contribuir de forma significativa, pois a IA atualmente opera de forma empírica, com poucas garantias sobre como seus sistemas funcionam. Tsimerman também é autor de um artigo sobre os chamados 'eventos de omnicídio', cenários em que a IA poderia contribuir para a extinção humana, uma posição debatida entre especialistas. Ele afirmou que o pânico não é a reação apropriada, mas os riscos devem ser considerados com honestidade, e está convencido de que a IA em breve superará os humanos na pesquisa matemática. O ex-CEO da DeepMind, Demis Hassabis, também comentou sobre os recentes avanços da IA em matemática, vendo-os como progresso, mas ainda não um avanço fundamental como o 'Movimento 37' do AlphaGo, da DeepMind. Ele disse que, para tal avanço, a IA precisaria resolver problemas fundamentais, como os Problemas do Prêmio do Milênio, que o novo modelo da OpenAI, Astra, não conseguiu resolver até agora. Hassabis acrescentou que não vê razão para que isso não aconteça.