Форма, симметрии и структура: изменение роли математики в исследованиях машинного обучения
В этой статье из The Gradient рассматривается эволюция роли математики в машинном обучении. Авторы утверждают, что, хотя эмпирический прогресс опережает теорию, математика по-прежнему играет ключевую роль в пост-хок объяснениях и проектировании высокого уровня. Статья подчеркивает, как чистая математика (топология, алгебра, геометрия) теперь применяется для понимания моделей глубокого обучения, с использованием таких инструментов, как внутренняя размерность и кривизна, для характеристики поведения моделей.
Статья обсуждает сдвиг в исследованиях машинного обучения от математически обоснованных архитектур к вычислительно-интенсивным подходам, основанным на инженерии, которые приводят к непредсказуемым возможностям. Несмотря на это, авторы утверждают, что математика остается актуальной, эволюционируя, чтобы давать пост-хок объяснения эмпирических явлений и направлять высокоуровневые проектные решения,
Показать ещё ↓
Источник: The Gradient —
оригинал