感謝本站網友 混沌窺源、光影幻、軟媒用戶1392612 的線索投遞!
本站 1 月 29 日消息,新年之際,阿里云公布了其全新的通義千問 Qwen 2.5-Max 超大規模 MoE 模型,大家可以通過API的方式進行訪問,也可以登錄Qwen Chat進行體驗,例如直接與模型對話,或者使用 artifacts、搜索等功能。
據介紹,通義千問 Qwen 2.5-Max 使用超過 20 萬億 token 的預訓練數據及精心設計的后訓練方案進行訓練。
性能
阿里云直接對比了指令模型的性能表現(本站注:指令模型即我們平常使用的可以直接對話的模型)。對比對象包括 DeepSeek V3、GPT-4o 和 Claude-3.5-Sonnet,結果如下:
在 Arena-Hard、LiveBench、LiveCodeBench 和 GPQA-Diamond 等基準測試中,Qwen2.5-Max 的表現超越了 DeepSeek V3,同時在 MMLU-Pro 等其他評估中也展現出了極具競爭力的成績。
在基座模型的對比中,由于無法訪問 GPT-4o 和 Claude-3.5-Sonnet 等閉源模型的基座模型,阿里云將 Qwen2.5-Max 與目前領先的開源 MoE 模型 DeepSeek V3、最大的開源稠密模型 Llama-3.1-405B,以及同樣位列開源稠密模型前列的 Qwen2.5-72B 進行了對比。對比結果如下圖所示:
我們的基座模型在大多數基準測試中都展現出了顯著的優勢。我們相信,隨著后訓練技術的不斷進步,下一個版本的 Qwen2.5-Max 將會達到更高的水平。