Qwen1.5-MoE-A2.7B

2024年3月29日，通義千問團隊開源首個MoE模型，名為Qwen1.5-MoE-A2.7B。

基本介紹

• 名稱：Qwen1.5-MoE-A2.7B 
• 研發團隊：通義千問團隊 

簡介

Qwen1.5-MoE-A2.7B有27億個激活參數，性能可與當前公認最先進的70億參數模型（Mistral7B、Qwen1.5-7B等）相媲美。