Ganador de la Medalla Fields Advierte sobre 'Eventos de Omnicidio' por la IA y se Une a OpenAI

Jacob Tsimerman, un teórico de números de la Universidad de Toronto y recientemente galardonado con la Medalla Fields, anunció que se une a OpenAI para trabajar en la seguridad de la IA. En una entrevista, describió la IA como una tecnología extremadamente transformadora y pidió una inversión significativamente mayor en seguridad de la IA. Argumentó que los matemáticos pueden contribuir de manera importante porque la IA actualmente opera de manera empírica con pocas garantías sobre cómo funcionan sus sistemas. Tsimerman también es autor de un artículo sobre los llamados 'eventos de omnicidio', escenarios en los que la IA podría contribuir a la extinción humana, una posición debatida entre expertos. Declaró que el pánico no es la reacción adecuada, pero los riesgos deben considerarse honestamente, y está convencido de que la IA pronto superará a los humanos en la investigación matemática. El ex CEO de DeepMind, Demis Hassabis, también comentó sobre los recientes avances de la IA en matemáticas, considerándolos un progreso pero aún no un avance fundamental como el 'Movimiento 37' de AlphaGo de DeepMind. Dijo que para tal avance, la IA necesitaría resolver problemas fundamentales como los Problemas del Premio del Milenio, que el nuevo modelo de OpenAI, Astra, no ha logrado hasta ahora. Hassabis agregó que no ve ninguna razón por la que no debería suceder.