Qwen

Qwen
FejlesztőAlibaba Cloud
Legfrissebb stabil kiadás3.8-Max (stabil verzió, 2026. augusztus 3.)
Kategória
LicencApache Licenc 2.0
Kódtárhttps://github.com/QwenLM/Qwen
A Qwen weboldala

A Qwen (más néven Tongyi Qianwen, kínai írásjegyekkel: 通义千问) az Alibaba Cloud által kifejlesztett nagy nyelvi modellek családja. 2024 júliusában egyes benchmarkokban a legjobb kínai nyelvi modellként szerepelt, globálisan pedig a harmadik helyen állt az Anthropic és az OpenAI csúcsmodelljei mögött.

Modellek

Az Alibaba először 2023 áprilisában indította el a Qwen béta változatát Tongyi Qianwen néven. A modell a Meta AI által kifejlesztett LLM Llama modellen alapult, különböző módosításokkal. 2023 szeptemberében adták ki nyilvánosan, miután megkapta a kínai kormány jóváhagyását. 2023 decemberében nyílt forráskódúvá tette a 72B és az 1,8B modelljét, míg a Qwen 7B-t augusztusban nyílt forráskódúvá tette.

2024 júniusában az Alibaba elindította a Qwen 2-t. Szeptemberben egyes modelljeit nyílt forráskódúként adta ki, miközben a legfejlettebb modelljeit saját tulajdonban tartotta. A Qwen 2 szakértők keverékét alkalmazza.

2024 novemberében az Apache 2.0 licenc alatt kiadták a QwQ-32B-Preview-t, az OpenAI o1-hez hasonló érvelésre összpontosító modellt, bár csak a súlyokat adták ki, az adatkészletet vagy a képzési módszert nem. A QwQ 32 000 token hosszúságú kontextussal rendelkezik, és egyes benchmarkokon jobban teljesít, mint az o1.

A Qwen-Vl sorozat a vizuális nyelvi modellek sorozata, amely egy látástranszformátort kombinál egy LLM-mel. Az Alibaba kiadta a Qwen-VL2-t 2 milliárd és 7 milliárd paraméteres változatokkal. A Qwen-vl-max az Alibaba zászlóshajója 2024-től a látásmodell, amelyet az Alibaba Cloud árul, ezer bemeneti tokenenként 0,00041 USD áron.

Az Alibaba több más modelltípust is kiadott, mint például a Qwen-Audio és a Qwen2-Math. Összesen több mint 100 modellt adott ki nyílt forráskódúként, modelljeit több mint 40 milliószor töltötték le. A Qwen finomhangolt változatait fejlesztették ki rajongók, mint például a San Francisco-i Abacus AI által kifejlesztett „Liberated Qwen”, amely egy olyan változat, amely tartalmi korlátozások nélkül válaszol bármilyen felhasználói kérésre.

2025 januárjában az Alibaba piacra dobta a Qwen 2.5-Max-ot, az eddigi legújabb és legerősebb modelljét. Az Alibaba blogbejegyzése szerint a Qwen 2.5-Max a legfontosabb benchmarkokban felülmúlja más alapmodelleket, például a GPT-4o, a DeepSeek-V3 és a Llama-3.1-405B.

Jegyzetek

  1. ↑ "qwen.ai/blog?id=qwen3.8".
  2. ↑ Jiang, Ben (2024. július 11.). "Alibaba's open-source AI model tops Chinese rivals, ranks 3rd globally". South China Morning Post (angol nyelven).
  3. ↑ Chiang, Sheila (2023. április 11.). "Alibaba to roll out its rival to ChatGPT across all its products". CNBC (angol nyelven).
  4. 1 2 Bai, Jinze; et al. (2023. szeptember 28.). "Qwen Technical Report". arXiv:2309.16609 [cs.CL].
  5. ↑ Jiang, Ben (2023. szeptember 13.). "Alibaba opens Tongyi Qianwen model to public as new CEO embraces AI". South China Morning Post (angol nyelven).
  6. ↑ Fan, Feifei (2023. december 1.). "Alibaba unveils new Tongyi Qianwen AI language model". global.chinadaily.com.cn.
  7. ↑ Ye, Josh (2023. augusztus 3.). "Alibaba rolls out open-sourced AI model to take on Meta's Llama 2". reuters.
  8. ↑ Jiang, Ben (2024. június 7.). "Alibaba says new AI model Qwen2 bests Meta's Llama 3 in tasks like maths and coding". South China Morning Post (angol nyelven).
  9. 1 2 Kharpal, Arjun (2024. szeptember 19.). "China's Alibaba launches over 100 new open-source AI models, releases text-to-video generation tool". CNBC (angol nyelven).
  10. 1 2 Yang, An; et al. (2024. szeptember 10.). "Qwen2 Technical Report". arXiv:2407.10671 [cs.CL].
  11. ↑ Dickson, Ben (2024. november 29.). "Alibaba releases Qwen with Questions, an open reasoning model that beats o1-preview". VentureBeat.
  12. ↑ 故渊 (2024. november 28.). "阿里通义千问 QwQ 登场：开源 AI 推理新王，MATH 测试超 OpenAI o1 模型 - IT之家". www.ithome.com.
  13. ↑ Wiggers, Kyle (2024. november 27.). "Alibaba releases an 'open' challenger to OpenAI's o1 reasoning model". TechCrunch.
  14. ↑ Browne, Ryan (2024. december 31.). "Alibaba slashes prices on large language models by up to 85% as China AI rivalry heats up". CNBC (angol nyelven).
  15. ↑ 沛霖 (2024. augusztus 30.). "阿里通义千问推出 Qwen2-VL：开源 2B / 7B 参数 AI 大模型，处理任意分辨率图像无需分割成块". ithome.com.
  16. ↑ Wang, Peng; Bai, Shuai; Tan, Sinan; Wang, Shijie; Fan, Zhihao; Bai, Jinze; Chen, Keqin; Liu, Xuejing; Wang, Jialin; Ge, Wenbin; Fan, Yang; Dang, Kai; Du, Mengfei; Ren, Xuancheng; Men, Rui; Liu, Dayiheng; Zhou, Chang; Zhou, Jingren; Lin, Junyang (2024. szeptember 18.). "Qwen2-VL: Enhancing Vision-Language Model's Perception of the World at Any Resolution". Cs.CV. arXiv:2409.12191.
  17. ↑ Jiang, Ben (2024. december 31.). "Alibaba Cloud cuts AI visual model price by 85% on last day of the year". South China Morning Post (angol nyelven).
  18. ↑ Franzen, Carl (2024. augusztus 8.). "Alibaba claims no. 1 spot in AI math models with Qwen2-Math". VentureBeat.
  19. ↑ "Alibaba accelerates AI push by releasing new open-source models, text-to-video". Reuters. 2024. szeptember 19.
  20. ↑ Mims, Christopher (2024. április 19.). "Here Come the Anti-Woke AIs". WSJ.
  21. ↑ Brunner, Nathan (2025. január 29.). "Qwen 2.5-Max - Latest Statistics and Facts". boterview (angol nyelven). 2025. január 30. dátummal az eredeti címről archiválva.
  22. ↑ "Qwen2.5-Max: Exploring the Intelligence of Large-scale MoE Model". Github (angol nyelven). 2025. január 29.

További információk