starlight-apk/Qwen
1
0
Fork 0
mirror of https://github.com/QwenLM/Qwen.git synced 2026-05-21 00:45:48 +08:00
Code Issues Packages Projects Releases Wiki Activity

Update FAQ_zh.md

Browse Source
This commit is contained in:
Junyang Lin
2023-08-30 17:41:41 +08:00
committed by GitHub
parent bcb14fb2fd
commit c9583eee6b
1 changed files with 1 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files

2
FAQ_zh.md
View File

@@ -32,7 +32,7 @@ flash attention是一个用于加速模型训练推理的可选项，且仅适
#### 我没有GPU，只用CPU运行CLI demo可以吗？ #### 我没有GPU，只用CPU运行CLI demo可以吗？
可以的，运行`python cli_demo.py --cpu_only`命令即可将模型读取到CPU并使用CPU进行推理。 可以的，运行`python cli_demo.py --cpu-only`命令即可将模型读取到CPU并使用CPU进行推理。
#### Qwen支持流式推理吗？ #### Qwen支持流式推理吗？