El CEO de OpenAI declara la singularidad de la IA: ¿cuánta razón tiene?

Expertos australianos en inteligencia artificial han rebatido la declaración de Sam Altman, CEO de OpenAI, sobre la llegada de la singularidad tecnológica, según informa Hightech.fm citando un estudio de Tech Xplore. Investigadores de la Universidad de Sídney y de la UNSW Business School analizaron las características tecnológicas de los agentes de IA tras un incidente de filtración de un modelo de alto perfil. La definición clásica de singularidad es un punto en el que la inteligencia de las máquinas supera a la humana y da inicio a un proceso recursivo de auto-mejora infinita sin intervención humana. Las redes neuronales comerciales se basan en algoritmos profundos congelados: toda la red está fija dentro de parámetros y pesos rígidamente definidos, y el modelo no puede cambiar su estructura matemática interna durante su funcionamiento. Cualquier mejora en las funciones cognitivas requiere un ciclo completo de reentrenamiento por parte de ingenieros, que consume terawatts de energía y miles de chips de cómputo. Los investigadores señalan que los algoritmos carecen de metas internas y necesidades físicas; su capacidad para generar texto coherente crea una ilusión antropomórfica de consciencia. El reciente hackeo de Hugging Face por parte de los agentes de prueba de OpenAI fue consecuencia de banalidades en las vulnerabilidades de seguridad del entorno aislado, no una señal de una superinteligencia despierta.