многообразие может быть гладко вложено в R^{2d}, что дает теоретическую верхнюю границу требуемых размерностей. Однако теорема напрямую не ограничивает модели из-за приближенного вложения и суперпозиции. Многообразия возникают, когда концепция непрерывно упорядочена, а цель обучения модели требует операций над этой структурой. Практические примеры включают циклические представления для дней недели, найденные в GPT-2 (слой 7) и Mistral 7B с помощью кластеризации АОС (автоэнкодеров с разреженными активациями) и метода главных компонент (МГК); вмешательства в эти структуры изменяют поведение модели.