can I build the engine from a local model.

[yyyanyy]

I had download some model that is not shared on the huggingface, so can I build the engine from a local model?

[ddPn08]

If the model is diffusers format, local ones can also be used.

[kotaro5487]

どのようにすれば良いでしょうか…？ modelIDにローカスのパスを入力しても動きません

[ddPn08]

@koukei46124 ターミナルのログ見せてもらえますか？

[kotaro5487]

[kotaro5487]

こんな感じです kohyaさんのスクリプトで変換しています。

[ddPn08]

これはdockerコンテナ内だからですね。基本的にdockerコンテナ内からwindowsのフォルダすべてにはアクセスできません（パスの形式もwindowsの物は使えないです。） たとえばdocker-compose.ymlを

version: '3.9'
services:
  lsmith:
    build:
      context: .
      dockerfile: ./docker/Dockerfile.lite
    ports:
      - 8000:8000
    volumes:
      - ./docker-data/models:/app/models
      - ./docker-data/outputs:/app/outputs
      - ./docker-data/diffusers:/diffusers
    environment:
      - COMMANDLINE_ARGS=--skip-build-frontend
      - UVICORN_ARGS=--host 0.0.0.0
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

とすることでwindows上の./docker-data/diffusersがDockerコンテナ内の/diffusersにリンクします。

[kotaro5487]

ああ、なるほど…！ 了解しました！

[kotaro5487]

一応ご報告

• ./docker-data/diffusers:/diffusers で作って、../diffusers/suityan5とパスを入れたところ、変換後にモデルが保存されませんでした。 フォルダの生成名がおかしくなっていたので、それが原因ではないかと思われます。

• ./docker-data/diffusers:/app/diffusers で再作成して、diffusers/suityan5 とパスを入れればうまくいきました。 絶対パスで指定すればうまくいくのかもしれませんが、appの下に作った方が無難なようです。

[Daniel-Kelvich]

Have the same problem