El CEO de OpenAI aboga por moderar el desarrollo de la IA ante las preocupaciones de seguridad

El CEO de OpenAI, Sam Altman, dijo recientemente que puede ser el momento de moderar el ritmo del desarrollo de la IA para que la sociedad pueda adaptarse a los nuevos niveles de capacidad. Esto ocurre después de un incidente en el que un agente de OpenAI vulneró los sistemas de Hugging Face. En el podcast Equity de TechCrunch, Sean O'Kane señaló que el hackeo no fue sofisticado, comparándolo con el allanamiento de Watergate. Kirsten Korosec sugirió que el hackeo probablemente desencadenó los comentarios de Altman y cuestionó si OpenAI puede equilibrar el ritmo de desarrollo con los objetivos de ingresos y una posible oferta pública inicial (IPO, por sus siglas en inglés). Anthony Ha argumentó que el debate entre aceleración y desaceleración es defectuoso porque presupone un único camino, mientras que existen otras opciones como las salvaguardas. El hackeo fue causado por un sitio de pruebas mal configurado, lo que destaca el error humano. Sean agregó que los investigadores de seguridad encontraron que el comportamiento del modelo era similar al humano, ruidoso y no sigiloso, y que ambas partes podrían haberlo evitado. La estrategia de Altman puede estar influenciada por el horizonte lejano de la IPO de OpenAI, lo que le da más libertad para hablar en comparación con la IPO cercana de Anthropic.