Colab上でFastChatでvicuna-13b-v1.5を動かす - arianpg note

[arianpg]

https://www.arianpg.com/post/2023-08-05/

参考 FastChat lmsys/vicuna-13b-v1.5 Colab環境 A100を利用(要Pro) !pip install transformers accelerate fschat !python3 -m fastchat.serve.cli --model-path lmsys/vicuna-13b-v1.5 チャット結果 暑い日の食べ物 USER: 今日は暑いのでさっぱりした物を食べたいのですが、何かオススメはありますか。 ASSISTANT: おっしゃる通り、今日は暑いので鮮度が高く、さっぱりとした食べ物がおすすめです。以下にいくつかのオススメを紹介します。

1. アボカド - アボカドは、栄養価が高く、水分も豊富です。また、油分も含まれていますので、温かい日にヘルシーでさっぱりとした食べ物としておすすめです。
2. ウド - ウドは、夏の野菜としても人気です。水分も豊富で、食感も触り心地が良く、さっぱりとした味わいが特徴です。
3. インゲン菏 - インゲン菏は、栄養価が高く、水分も豊富です。さっぱりとした食感と、しっかりとした味わいが特徴です。
4. 冷やし中華麺 - 冷やし中華麺は、栄養価も高く、水分も豊富です。さっぱりとした食感と、軽い味わいが特徴です。
5. 鮭 - 鮭は、栄養価が高く、水分も豊富です。さっぱりとした食感と、しっかりとした味わいが特徴です。 以上が、暑い日にオススメのさっぱりとした食べ物です。お好みでお試しくだ USER: アボガドはどのように調理するのがよいでしょうか。 ASSISTANT: アボカドは、生で食べるだけでなく、さまざまな調理方法で楽しむことができます。以下にいくつかのアイデアを紹介します。
6. 生で食べる - アボカドは、栄養価が高く、水分も豊富ですので、生で食べるのもおすすめです。皮をむいて、鮮度が高いものを選び、ナイフとフォークで食べると美味しいです。
7. サラダに加える - アボカドは、サラダにも加えるのがおすすめです。切り身を軽く塩を振って、アボカドの栄養価を活かしたサラダを作ることができます。
8. スムージーにする - アボカドは、スムージーにも使うことができます。ブレンダーにアボカドを入れて、バナナやミルクなどを加え、冷たい飲み物を作ることができます。
9. グリルする - アボカドは、グリルすることで、さっぱりとした味わいが増します。アボカドを薄くスライスして、オーブンやグリルパンで焼き、サンドイッチの具材にすることができます。
10. アボカドと野菜を炒める - アボカドと野菜を一緒に炒めると、栄養価が豊富な一品が完成します。アボカドを切り身 USER: 鮭の場合はどうでしょうか。 ASSISTANT: 鮭は、生で食べるだけでなく、さまざまな調理方法で楽しむことができます。以下にいくつかのアイデアを紹介します。