add 72B and 1.8B Qwen models, add Ascend 910 and Hygon DCU support, add docker support

This commit is contained in:
yangapku
2023-11-30 15:43:00 +08:00
parent e8e15962d8
commit b1d80a9385
5 changed files with 20 additions and 20 deletions

View File

@@ -30,10 +30,10 @@
| 模型 | 开源日期 | 最大上下文长度 | System Prompt强化 | 预训练token数 | 微调Q-Lora最小GPU用量 | 生成2048个token的最小显存占用 | 工具调用 |
|:----------|:--------:|:-------:|:---------------:|:---------:|:-----------------:|:-------------------:|:----:|
| Qwen-1.8B | 23.11.30 | 32K | | 2.2T | 5.8GB | 2.9GB | |
| Qwen-7B | 23.08.03 | 32K | × | 2.4T | 11.5GB | 8.2GB | |
| Qwen-14B | 23.09.25 | 8K | × | 3.0T | 18.7GB | 13.0GB | |
| Qwen-72B | 23.11.30 | 32K | | 3.0T | 61.4GB | 48.9GB | |
| Qwen-1.8B | 23.11.30 | 32K | | 2.2T | 5.8GB | 2.9GB | |
| Qwen-7B | 23.08.03 | 32K | | 2.4T | 11.5GB | 8.2GB | |
| Qwen-14B | 23.09.25 | 8K | | 3.0T | 18.7GB | 13.0GB | |
| Qwen-72B | 23.11.30 | 32K | | 3.0T | 61.4GB | 48.9GB | |
在这个项目中,你可以了解到以下内容