update gifs

This commit is contained in:
JustinLin610
2023-08-16 16:16:25 +08:00
parent 4957c33d18
commit 512f90a069
6 changed files with 99 additions and 39 deletions

View File

@@ -285,14 +285,6 @@ Flash attentionを使用しない場合、メモリ使用量は次のように
## デモ
### CLI デモ
`cli_demo.py` に CLI のデモ例を用意しています。ユーザはプロンプトを入力することで Qwen-7B-Chat と対話することができ、モデルはストリーミングモードでモデルの出力を返します。以下のコマンドを実行する:
```
python cli_demo.py
```
### ウェブ UI
ウェブUIデモを構築するためのコードを提供します@wysaidに感謝)。始める前に、以下のパッケージがインストールされていることを確認してください:
@@ -307,7 +299,28 @@ pip install -r requirements_web_demo.txt
python web_demo.py
```
<p align="center">
<br>
<img src="assets/web_demo.gif" width="600" />
<br>
<p>
### CLI デモ
`cli_demo.py` に CLI のデモ例を用意しています。ユーザはプロンプトを入力することで Qwen-7B-Chat と対話することができ、モデルはストリーミングモードでモデルの出力を返します。以下のコマンドを実行する:
```
python cli_demo.py
```
<p align="center">
<br>
<img src="assets/cli_demo.gif" width="600" />
<br>
<p>
## API
OpenAI APIをベースにローカルAPIをデプロイする方法を提供する@hanpenggitに感謝)。始める前に、必要なパッケージをインストールしてください:
```bash
@@ -351,6 +364,12 @@ response = openai.ChatCompletion.create(
print(response.choices[0].message.content)
```
<p align="center">
<br>
<img src="assets/openai_api.gif" width="600" />
<br>
<p>
## ツールの使用
Qwen-7B-Chat は、API、データベース、モデルなど、ツールの利用に特化して最適化されており、ユーザは独自の Qwen-7B ベースの LangChain、エージェント、コードインタプリタを構築することができます。ツール利用能力を評価するための評価[ベンチマーク](eval/EVALUATION.md)では、Qwen-7B は安定した性能に達しています。