Qwen4还没出，架构先开源了。

阿里发布Qwen3.8-Flash-Next的全部权重， 同时也是Qwen4新架构的早期预览版。
这个新架构它确实够新。

除了常规的125B参数MoE模型配6B激活参数，关键是还附加了51B的N-gram Embedding参数。#Qwen #阿里