применяет MLP (multilayer perceptron, многослойный перцептрон). Mamba-3B превосходит трансформеры аналогичного размера и сравнивается с моделями вдвое большего размера при предварительном обучении и на решаемых задачах. Ключевые преимущества включают более быстрый вывод (до 5 раз), меньшее потребление памяти и способность обрабатывать очень длинные последовательности. Механизм селективности позволяет осуществлять переходы между состояниями, зависящие от входных данных, что повышает эффективность по сравнению с традиционными SSM.