От GPT-2 до gpt-oss: анализ архитектурных достижений и сравнение с Qwen3

OpenAI выпустила gpt-oss-120b и gpt-oss-20b, свои первые модели с открытыми весами со времен GPT-2. Архитектура включает смесь экспертов (Mixture-of-Experts), групповое запросное внимание (Grouped Query Attention), RoPE, SwiGLU и оптимизацию MXFP4 для локального вывода. Сравнения с GPT-2 и Qwen3 подчеркивают достижения в компромиссах между шириной и глубиной, а также в механизмах внимания.