Étendre l'intelligence humaine grâce à l'IA : un nouveau cadre

Dans un récent article de Microsoft Research, les auteurs soutiennent que les systèmes d'IA sont mieux compris comme des extensions de l'intelligence humaine, plutôt que comme des esprits autonomes. S'appuyant sur la phénoménologie de Husserl, ils proposent que le langage contient des structures sédimentées de compréhension humaine que les modèles d'IA apprennent et étendent. Cela explique pourquoi l'IA excelle dans les tâches basées sur des motifs mais a du mal avec le raisonnement compositionnel et la compréhension orientée vers le monde. Les hallucinations surviennent parce que l'IA manque de l'engagement vécu qui ancre la vérité. L'article recadre également la sécurité de l'IA : les risques ne viennent pas d'une superintelligence voyou mais de l'IA étendant des motifs non fondés. La sécurité exige donc une gouvernance au niveau du système et une supervision humaine, et non seulement des améliorations du modèle. Les auteurs concluent qu'un développement responsable signifie construire une IA qui étend la compréhension humaine tout en restant redevable à l'expérience humaine.