Bentuk, Simetri, dan Struktur: Peran Matematika yang Berubah dalam Riset Pembelajaran Mesin

Artikel ini membahas pergeseran dalam penelitian machine learning dari arsitektur yang berprinsip matematis menuju pendekatan yang intensif komputasi dan mengutamakan rekayasa, yang menghasilkan kemampuan yang tidak terduga. Meskipun demikian, para penulis berpendapat bahwa matematika tetap relevan, berkembang untuk memberikan penjelasan pasca-hoc terhadap fenomena empiris dan memandu pilihan desain tingkat tinggi seperti mencocokkan arsitektur dengan simetri data. Bidang matematika murni seperti topologi, aljabar, dan geometri kini diterapkan pada machine learning, membantu mengatasi tantangan seperti memahami bobot model dan aktivasi tersembunyi. Alat seperti dimensi intrinsik dan kelengkungan digunakan untuk mengkarakterisasi kompleksitas dataset, generalisasi, dan ketahanan model.