Update README_JA.md

This commit is contained in:
Junyang Lin
2023-10-20 22:06:00 +08:00
committed by GitHub
parent 8effcb2a76
commit 6cf80d2c11

View File

@@ -672,7 +672,8 @@ merged_model.save_pretrained(new_model_directory, max_shard_size="2048MB", safe_
### vLLM
デプロイメントと高速推論のためには、FastChatとvLLMを使用することをお勧めします。まずパッケージをインストールしてください
```bash
pip install vllm fastchat
pip install vllm
pip install "fschat[model_worker,webui]"
```
または、`git clone` と `pip install -e .` を使ってソースからインストールすることもできます。インストールに問題がある場合は、それぞれのドキュメントを読むことを勧める。