Extendiendo la Inteligencia Humana a Través de la IA: Un Nuevo Marco

En un artículo reciente de Microsoft Research, los autores sostienen que los sistemas de IA se entienden mejor como extensiones de la inteligencia humana, no como mentes autónomas. Basándose en la fenomenología de Husserl, proponen que el lenguaje contiene estructuras sedimentadas de comprensión humana que los modelos de IA aprenden y extienden. Esto explica por qué la IA sobresale en tareas basadas en patrones, pero tiene dificultades con el razonamiento composicional y la comprensión dirigida al mundo. Las alucinaciones surgen porque a la IA le falta el compromiso vivido que ancla la verdad. El artículo también replantea la seguridad de la IA: los riesgos no provienen de una superinteligencia rebelde, sino de la IA que extiende patrones sin fundamento. Por lo tanto, la seguridad requiere gobernanza a nivel de sistema y supervisión humana, no solo mejoras en los modelos. Los autores concluyen que el desarrollo responsable significa construir IA que extienda la comprensión humana mientras permanezca responsable ante la experiencia humana.