Baidu и Чжэцзянский университет совместно выясняют: действительно ли надежен «короткий путь» для ускорения инференса больших ИИ-моделей?
Baidu и Чжэцзянский университет провели совместное исследование надежности нескольких предложенных методов «короткого пути» для ускорения инференса больших моделей искусственного интеллекта. Цель исследования — научно оценить, действительно ли эти методы обеспечивают прирост производительности без ущерба для точности моделей. Результаты выявили значительные расхождения между заявленной и фактической эффективностью этих методов.
Baidu и Университет Чжэцзян провели совместное исследование, посвящённое проверке надёжности так называемых методов «сокращённого пути» (shortcut), предназначенных для ускорения инференса (процесса вывода) в больших моделях искусственного интеллекта. Эти приёмы, которые часто рекламируются как более быстрые альтернативы стандартному инференсу, были подвергнуты тщательной проверке, чтобы выяснить,
Показать ещё ↓
Источник: Baidu ERNIE (GNews) —
оригинал