YJ
Высказывания
-
Об экономике вычислений: за год стоимость инференса лучших моделей упала на порядок.
«In the past year, the inference cost of the best models has dropped by an order of magnitude.»
-
О выборе MoE ради вычислительной эффективности: с dense-моделью не выдать столько токенов ежедневно.
«如果是Dense模型，我们没有办法每天出这么多token。»