Formes, symétries et structure : l'évolution du rôle des mathématiques dans la recherche en apprentissage automatique
Cet article de The Gradient examine le rôle évolutif des mathématiques dans l'apprentissage automatique, soutenant que bien que les progrès empiriques aient dépassé la théorie, les mathématiques restent cruciales pour les explications a posteriori et la conception de haut niveau. Il met en lumière comment les mathématiques pures (topologie, algèbre, géométrie) sont désormais appliquées pour comprendre les modèles d'apprentissage profond, en utilisant des outils comme la dimension intrinsèque et la courbure pour caractériser le comportement des modèles.
L'article aborde le passage, dans la recherche en apprentissage automatique, d'architectures fondées sur des principes mathématiques à des approches axées sur l'ingénierie et intensives en calcul, qui produisent des capacités imprévues. Malgré cela, les auteurs soutiennent que les mathématiques restent pertinentes, évoluant pour fournir des explications a posteriori des phénomènes empiriques et guider les choix de conception de haut niveau, comme l'adéquation entre l'architecture et les symétries des données. Des domaines des mathématiques pures, tels que la topologie, l'algèbre et la géométrie, sont désormais appliqués à l'apprentissage automatique, contribuant à relever des défis comme la compréhension des poids des modèles et des activations cachées. Des outils comme la dimension intrinsèque et la courbure sont utilisés pour caractériser la complexité des ensembles de données, la généralisation et la robustesse des modèles.
Source: The Gradient —
original