使用vllm加速推理报错：AttributeError: 'Namespace' object has no attribute 'kv_cache_dtype'

[wuliaodeashuai]

版本为 torch 2.1.2+cu118 torchaudio 2.1.2+cu118 torchvision 0.16.2+cu118 vllm 0.3.3 配置文件： FSCHAT_MODEL_WORKERS = {

所有模型共用的默认配置，可在模型专项配置中进行覆盖。

"default": {
    "host": DEFAULT_BIND_HOST,
    "port": 20002,
    "device": LLM_DEVICE,
    # False,'vllm',使用的推理加速框架,使用vllm如果出现HuggingFace通信问题，参见doc/FAQ
    "vllm": True,
    # vllm对一些模型支持还不成熟，暂时默认关闭
    # fschat=0.2.33的代码有bug, 如需使用，源码修改fastchat.server.vllm_worker，
    # 将103行中sampling_params = SamplingParams的参数stop=list(stop)修改为stop= [i for i in stop if i!=""]
    "infer_turbo": "vllm",
    # model_worker多卡加载需要配置的参数
    "gpus": "0", # 使用的GPU，以str的格式指定，如"0,1"，如失效请使用CUDA_VISIBLE_DEVICES="0,1"等形式指定
    # "num_gpus": 1, # 使用GPU的数量
    # "max_gpu_memory": "40GiB", # 每个GPU占用的最大显存

    # 以下为model_worker非常用参数，可根据需要配置
    # "load_8bit": False, # 开启8bit量化
    # "cpu_offloading": None,
    # "gptq_ckpt": None,
    # "gptq_wbits": 16,
    # "gptq_groupsize": -1,
    # "gptq_act_order": False,
    # "awq_ckpt": None,
    # "awq_wbits": 16,
    # "awq_groupsize": -1,
    # "model_names": LLM_MODELS,
    # "conv_template": None,
    # "limit_worker_concurrency": 5,
    # "stream_interval": 2,
    # "no_register": False,
    # "embed_in_truncate": False,

    # 以下为vllm_worker配置参数,注意使用vllm必须有gpu，仅在Linux测试通过

    # tokenizer = model_path # 如果tokenizer与model_path不一致在此处添加
    'tokenizer_mode':'auto',
    'trust_remote_code':True,
    'download_dir':None,
    'load_format':'auto',
    'dtype':'auto',
    'seed':0,
    'worker_use_ray':False,
    'pipeline_parallel_size':1,
    'tensor_parallel_size':1,
    'block_size':16,
    'swap_space':4 , # GiB
    'gpu_memory_utilization':0.90,
    'max_num_batched_tokens':2560,
    'max_num_seqs':256,
    'disable_log_stats':False,
    'conv_template':None,
    'limit_worker_concurrency':5,
    'no_register':False,
    # 'num_gpus': 1
    'engine_use_ray': False,
    'disable_log_requests': False

},

[dosubot[bot]]

嘿，@wuliaodeashuai！又见面了，遇到新挑战了吗？希望这次我们能一起顺利解决。

根据您提供的信息，您在使用vllm进行推理加速时遇到了一个错误：AttributeError: 'Namespace' object has no attribute 'kv_cache_dtype'。这个错误通常意味着在当前的命名空间中，尝试访问一个未定义的属性或方法。

然而，在Langchain-Chatchat的代码库和配置文件中，我没有找到kv_cache_dtype这个属性的相关信息。这可能意味着这个属性是在其他地方定义的，或者是在vllm或其他依赖库中定义的。

在您的配置文件中，我注意到您已经启用了vllm推理加速（"vllm": True）。这可能意味着kv_cache_dtype属性是vllm库的一部分，或者是在使用vllm时需要的。如果是这样的话，我建议您检查vllm的文档或源代码，看看是否能找到kv_cache_dtype属性的相关信息。

另外，您也可以尝试更新vllm库到最新版本，看看是否能解决这个问题。有时候，这种错误可能是由于库的版本不兼容或者有bug导致的。

如果以上建议都不能解决您的问题，那么可能需要更多的信息来定位问题。例如，能否提供引发这个错误的具体代码段，或者提供完整的错误堆栈信息。这些信息可以帮助我们更准确地找到问题的原因。

Sources

• configs/server_config.py.example
• server/agent/callbacks.py

#### About Dosu

This response is meant to be useful and save you time. It is **not meant to be a precise solution**, but rather a starting point for your own research. Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant. If you want to continue the conversation, start your reply with @dosu-bot.

[zhipeng9802]

解决了吗？遇见了同样的问题

[zhipeng9802]

解决了吗？遇见了同样的问题

我处理掉了这个问题，需要增加一些参数在执行engine_args = AsyncEngineArgs.from_cli_args(args)前，如下:

# 0.3.3 vllm需要新加的参数
            args.kv_cache_dtype = 'auto'
            args.max_parallel_loading_workers = None
            args.code_revision = None
            args.enforce_eager = False
            args.max_context_len_to_capture = 8192
            args.disable_custom_all_reduce = False
            args.enable_lora = False
            args.max_loras = 1
            args.max_lora_rank = 16
            args.lora_extra_vocab_size = 256
            args.lora_dtype = 'auto'
            args.max_cpu_loras = None
            args.device = 'cuda'

[xqxls]

兄弟，可以提供下vllm==0.3.3版本的整个项目的requirements.txt吗

[wuliaodeashuai]

兄弟，可以提供下vllm==0.3.3版本的整个项目的requirements.txt吗

This file may be used to create an environment using:

$ conda create --name --file

platform: win-64

accelerate=0.28.0=pypi_0 addict=2.4.0=pypi_0 aiohttp=3.9.1=pypi_0 aiosignal=1.3.1=pypi_0 aliyun-python-sdk-core=2.15.0=pypi_0 aliyun-python-sdk-kms=2.16.2=pypi_0 altair=5.2.0=pypi_0 annotated-types=0.6.0=pypi_0 antlr4-python3-runtime=4.9.3=pypi_0 anyio=3.7.1=pypi_0 arxiv=2.1.0=pypi_0 async-timeout=4.0.3=pypi_0 attrs=23.2.0=pypi_0 authlib=1.3.0=pypi_0 auto-gptq=0.4.2=pypi_0 backoff=2.2.1=pypi_0 beautifulsoup4=4.12.2=pypi_0 bitsandbytes=0.41.1=pypi_0 blinker=1.7.0=pypi_0 blis=0.7.11=pypi_0 brotli=1.1.0=pypi_0 bzip2=1.0.8=he774522_0 ca-certificates=2023.12.12=haa95532_0 cachetools=5.3.2=pypi_0 catalogue=2.0.10=pypi_0 certifi=2023.11.17=pypi_0 cffi=1.16.0=pypi_0 chardet=5.2.0=pypi_0 charset-normalizer=3.3.2=pypi_0 click=8.1.7=pypi_0 cloudpathlib=0.16.0=pypi_0 colorama=0.4.6=pypi_0 coloredlogs=15.0.1=pypi_0 confection=0.1.4=pypi_0 contourpy=1.2.0=pypi_0 crcmod=1.7=pypi_0 cryptography=41.0.7=pypi_0 curl-cffi=0.5.10=pypi_0 cycler=0.12.1=pypi_0 cymem=2.0.8=pypi_0 dashscope=1.13.6=pypi_0 dataclasses=0.6=pypi_0 dataclasses-json=0.6.3=pypi_0 datasets=2.18.0=pypi_0 deprecated=1.2.14=pypi_0 deprecation=2.1.0=pypi_0 dill=0.3.8=pypi_0 distro=1.9.0=pypi_0 duckduckgo-search=4.1.1=pypi_0 effdet=0.4.1=pypi_0 einops=0.7.0=pypi_0 emoji=2.9.0=pypi_0 et-xmlfile=1.1.0=pypi_0 exceptiongroup=1.2.0=pypi_0 faiss-cpu=1.7.4=pypi_0 fastapi=0.106.0=pypi_0 feedparser=6.0.10=pypi_0 filelock=3.13.1=pypi_0 filetype=1.2.0=pypi_0 flatbuffers=23.5.26=pypi_0 fonttools=4.47.0=pypi_0 frozenlist=1.4.1=pypi_0 fschat=0.2.34=pypi_0 fsspec=2023.12.2=pypi_0 gast=0.5.4=pypi_0 gekko=1.0.7=pypi_0 gitdb=4.0.11=pypi_0 gitpython=3.1.40=pypi_0 greenlet=3.0.3=pypi_0 grpcio=1.62.0=pypi_0 grpcio-health-checking=1.62.0=pypi_0 grpcio-tools=1.62.0=pypi_0 h11=0.14.0=pypi_0 h2=4.1.0=pypi_0 hpack=4.0.0=pypi_0 httpcore=1.0.2=pypi_0 httpx=0.26.0=pypi_0 httpx-sse=0.4.0=pypi_0 huggingface-hub=0.20.2=pypi_0 humanfriendly=10.0=pypi_0 hyperframe=6.0.1=pypi_0 idna=3.6=pypi_0 importlib-metadata=6.11.0=pypi_0 iniconfig=2.0.0=pypi_0 iopath=0.1.10=pypi_0 jinja2=3.1.2=pypi_0 jmespath=0.10.0=pypi_0 joblib=1.3.2=pypi_0 jq=1.6=haa95532_1 jsonpatch=1.33=pypi_0 jsonpointer=2.4=pypi_0 jsonschema=4.20.0=pypi_0 jsonschema-specifications=2023.12.1=pypi_0 kiwisolver=1.4.5=pypi_0 langchain=0.0.352=pypi_0 langchain-community=0.0.20=pypi_0 langchain-core=0.1.23=pypi_0 langchain-experimental=0.0.47=pypi_0 langchain-text-splitters=0.0.1=pypi_0 langcodes=3.3.0=pypi_0 langdetect=1.0.9=pypi_0 langsmith=0.0.87=pypi_0 layoutparser=0.3.4=pypi_0 libffi=3.4.4=hd77b12b_0 llama-index=0.9.28.post2=pypi_0 loguru=0.7.2=pypi_0 lxml=5.1.0=pypi_0 m2w64-libwinpthread-git=5.0.0.4634.697f757=2 markdown=3.5.1=pypi_0 markdown-it-py=3.0.0=pypi_0 markdown2=2.4.12=pypi_0 markdownify=0.11.6=pypi_0 markupsafe=2.1.3=pypi_0 marshmallow=3.20.2=pypi_0 matplotlib=3.8.2=pypi_0 mdurl=0.1.2=pypi_0 metaphor-python=0.1.23=pypi_0 modelscope=1.13.1=pypi_0 mpmath=1.3.0=pypi_0 msg-parser=1.2.0=pypi_0 msys2-conda-epoch=20160418=1 multidict=6.0.4=pypi_0 multiprocess=0.70.16=pypi_0 murmurhash=1.0.10=pypi_0 mypy-extensions=1.0.0=pypi_0 nest-asyncio=1.5.8=pypi_0 networkx=3.2.1=pypi_0 nh3=0.2.15=pypi_0 nltk=3.8.1=pypi_0 numexpr=2.8.8=pypi_0 numpy=1.24.4=pypi_0 olefile=0.47=pypi_0 omegaconf=2.3.0=pypi_0 onnx=1.15.0=pypi_0 onnxruntime=1.15.1=pypi_0 openai=1.6.1=pypi_0 opencv-python=4.9.0.80=pypi_0 openpyxl=3.1.2=pypi_0 openssl=3.0.12=h2bbff1b_0 optimum=1.12.0=pypi_0 orjson=3.9.15=pypi_0 oss2=2.18.4=pypi_0 outcome=1.3.0.post0=pypi_0 packaging=23.2=pypi_0 pandas=2.0.3=pypi_0 pathlib=1.0.1=pypi_0 pdf2image=1.17.0=pypi_0 pdfminer-six=20221105=pypi_0 pdfplumber=0.10.3=pypi_0 peft=0.9.0=pypi_0 pillow=9.5.0=pypi_0 pip=23.3.1=py310haa95532_0 platformdirs=4.2.0=pypi_0 pluggy=1.3.0=pypi_0 portalocker=2.8.2=pypi_0 preshed=3.0.9=pypi_0 prompt-toolkit=3.0.43=pypi_0 protobuf=4.25.1=pypi_0 psutil=5.9.7=pypi_0 pyarrow=14.0.2=pypi_0 pyarrow-hotfix=0.6=pypi_0 pyclipper=1.3.0.post5=pypi_0 pycocotools=2.0.7=pypi_0 pycparser=2.21=pypi_0 pycryptodome=3.20.0=pypi_0 pydantic=1.10.13=pypi_0 pydantic-core=2.16.3=pypi_0 pydeck=0.8.1b0=pypi_0 pygments=2.17.2=pypi_0 pyjwt=2.8.0=pypi_0 pymupdf=1.23.8=pypi_0 pymupdfb=1.23.7=pypi_0 pypandoc=1.12=pypi_0 pyparsing=3.1.1=pypi_0 pypdfium2=4.25.0=pypi_0 pyreadline3=3.4.1=pypi_0 pysocks=1.7.1=pypi_0 pysrt=1.1.2=pypi_0 pytesseract=0.3.10=pypi_0 pytest=7.4.4=pypi_0 python=3.10.13=he1021f5_0 python-dateutil=2.8.2=pypi_0 python-decouple=3.8=pypi_0 python-docx=1.1.0=pypi_0 python-iso639=2024.1.2=pypi_0 python-magic=0.4.27=pypi_0 python-magic-bin=0.4.14=pypi_0 python-multipart=0.0.6=pypi_0 python-pptx=0.6.23=pypi_0 pytz=2023.3.post1=pypi_0 pywin32=306=pypi_0 pyyaml=6.0.1=pypi_0 rapidfuzz=3.6.1=pypi_0 rapidocr-onnxruntime=1.3.8=pypi_0 referencing=0.32.1=pypi_0 regex=2023.12.25=pypi_0 requests=2.31.0=pypi_0 rich=13.7.0=pypi_0 rouge=1.0.1=pypi_0 rpds-py=0.16.2=pypi_0 safetensors=0.4.1=pypi_0 scikit-learn=1.3.2=pypi_0 scipy=1.11.4=pypi_0 selenium=4.17.2=pypi_0 sentence-transformers=2.2.2=pypi_0 sentencepiece=0.1.99=pypi_0 setuptools=68.2.2=py310haa95532_0 sgmllib3k=1.0.0=pypi_0 shapely=2.0.2=pypi_0 shortuuid=1.0.11=pypi_0 simplejson=3.19.2=pypi_0 six=1.16.0=pypi_0 smart-open=6.4.0=pypi_0 smmap=5.0.1=pypi_0 sniffio=1.3.0=pypi_0 socksio=1.0.0=pypi_0 sortedcontainers=2.4.0=pypi_0 soupsieve=2.5=pypi_0 spacy=3.7.2=pypi_0 spacy-legacy=3.0.12=pypi_0 spacy-loggers=1.0.5=pypi_0 splinter=0.21.0=pypi_0 sqlalchemy=2.0.19=pypi_0 sqlite=3.41.2=h2bbff1b_0 srsly=2.4.8=pypi_0 sse-starlette=1.8.2=pypi_0 starlette=0.27.0=pypi_0 streamlit=1.29.0=pypi_0 streamlit-aggrid=0.3.4.post3=pypi_0 streamlit-chatbox=1.1.11=pypi_0 streamlit-feedback=0.1.3=pypi_0 streamlit-modal=0.1.0=pypi_0 streamlit-option-menu=0.3.6=pypi_0 strsimpy=0.2.1=pypi_0 svgwrite=1.4.3=pypi_0 sympy=1.12=pypi_0 tabulate=0.9.0=pypi_0 tenacity=8.2.3=pypi_0 thinc=8.2.2=pypi_0 threadpoolctl=3.2.0=pypi_0 tiktoken=0.5.2=pypi_0 timm=0.9.12=pypi_0 tk=8.6.12=h2bbff1b_0 tokenizers=0.15.0=pypi_0 toml=0.10.2=pypi_0 tomli=2.0.1=pypi_0 toolz=0.12.0=pypi_0 torch=2.1.1+cu118=pypi_0 torchaudio=2.1.1=pypi_0 torchvision=0.16.1+cu118=pypi_0 tornado=6.4=pypi_0 tqdm=4.66.1=pypi_0 transformers=4.36.2=pypi_0 transformers-stream-generator=0.0.4=pypi_0 trio=0.24.0=pypi_0 trio-websocket=0.11.1=pypi_0 typer=0.9.0=pypi_0 typing-extensions=4.9.0=pypi_0 typing-inspect=0.9.0=pypi_0 tzdata=2023.4=pypi_0 tzlocal=5.2=pypi_0 unstructured=0.11.0=pypi_0 unstructured-inference=0.7.15=pypi_0 unstructured-pytesseract=0.3.12=pypi_0 urllib3=2.1.0=pypi_0 uvicorn=0.25.0=pypi_0 validators=0.22.0=pypi_0 vc=14.2=h21ff451_1 vs2015_runtime=14.27.29016=h5e58377_2 wasabi=1.1.2=pypi_0 watchdog=3.0.0=pypi_0 wavedrom=2.0.3.post3=pypi_0 wcwidth=0.2.13=pypi_0 weasel=0.3.4=pypi_0 weaviate-client=4.5.1=pypi_0 websockets=12.0=pypi_0 wheel=0.41.2=py310haa95532_0 win32-setctime=1.1.0=pypi_0 wrapt=1.16.0=pypi_0 wsproto=1.2.0=pypi_0 xformers=0.0.23.post1=pypi_0 xlrd=2.0.1=pypi_0 xlsxwriter=3.1.9=pypi_0 xxhash=3.4.1=pypi_0 xz=5.4.5=h8cc25b3_0 yapf=0.40.2=pypi_0 yarl=1.9.4=pypi_0 youtube-search=2.1.2=pypi_0 zhipuai=1.0.7=pypi_0 zipp=3.17.0=pypi_0 zlib=1.2.13=h8cc25b3_0

[wuliaodeashuai]

兄弟，可以提供下vllm==0.3.3版本的整个项目的requirements.txt吗

此文件可用于使用以下条件创建环境：

$ conda create --name --file

平台： WIN-64

加速=0.28.0=pypi_0 addict=2.4.0=pypi_0 aiohttp=3.9.1=pypi_0 aiosignal=1.3.1=pypi_0 aliyun-python-sdk-core=2.15.0=pypi_0 aliyun-python-sdk-kms=2.16.2=pypi_0 altair=5.2.0=pypi_0 annotated-types=0.6.0=pypi_0 antlr4-python3-runtime=4.9.3=pypi_0 anyio=3.7.1=pypi_0 arxiv=2.1.0=pypi_0 async-timeout=4.0.3=pypi_0 attrs=23.2.0=pypi_0 authlib=1.3.0=pypi_0 auto-gptq=0.4.2=pypi_0 backoff=2.2.1=pypi_0 beautifulsoup4=4.12.2=pypi_0 bitsandbytes=0.41.1=pypi_0 blinker=1.7.0=pypi_0 blis=0.7.11=pypi_0 brotli=1.1.0=pypi_0 bzip2=1.0.8=he774522_0 ca-certificates=2023.12.12=haa95532_0 cachetools=5.3.2=pypi_0 catalogue=2.0.10=pypi_0证书 = 2023.11.17=pypi_0 cffi=1.16.0=pypi_0 chardet=5.2.0=pypi_0 字符集规范化器=3.3.2=pypi_0 点击=8.1.7=pypi_0 cloudpathlib=0.16.0=pypi_0 colorama=0.4.6=pypi_0 coloredlogs=15.0.1=pypi_0糖果=0.1.4=pypi_0轮廓=1.2.0=pypi_0 crcmod=1.7=pypi_0 密码学=41.0.7=pypi_0 curl-cffi=0.5.10=pypi_0 循环仪=0.12.1=pypi_0 cymem=2.0.8=pypi_0 dashscope=1.13.6=pypi_0 dataclasses=0.6=pypi_0 dataclasses-json=0.6.3=pypi_0 datasets=2.18.0=pypi_0 deprecated=1.2.14=pypi_0 deprecation=2.1.0=pypi_0 dill=0.3.8=pypi_0 distro=1.9.0=pypi_0 duckduckgo-search=4.1.1=pypi_0 effdet=0.4.1=pypi_0einops=0.7.0=pypi_0 表情符号=2.9.0=pypi_0 et-xmlfile=1.1.0=pypi_0 exceptiongroup=1.2.0=pypi_0 faiss-cpu=1.7.4=pypi_0 fastapi=0.106.0=pypi_0 feedparser=6.0.10=pypi_0 filelock=3.13.1=pypi_0 filetype=1.2.0=pypi_0 flatbuffers=23.5.26=pypi_0 fonttools=4.47.0=pypi_0 frozenlist=1.4.1=pypi_0 fschat=0.2.34=pypi_0 fsspec=2023.12.2=pypi_0 gast=0.5.4=pypi_0 gekko=1.0.7=pypi_0 gitdb=4.0.11=pypi_0 gitpython=3.1.40=pypi_0 greenlet=3.0.3=pypi_0 grpcio=1.62.0=pypi_0 grpcio-health-checking=1.62.0=pypi_0 grpcio-tools=1.62.0=pypi_0 h11=0.14.0=pypi_0 h2=4.1.0=pypi_0 hpack=4.0.0=pypi_0 httpcore=1.0.2=pypi_0 httpx=0.26.0=pypi_0 httpx-sse=0.4.0=pypi_0 huggingface-hub=0.20.2=pypi_0 humanfriendly=10.0=pypi_0 hyperframe=6.0.1=pypi_0 idna=3.6=pypi_0 importlib-metadata=6.11.0=pypi_0 iniconfig=2.0.0=pypi_0 iopath=0.1.10=pypi_0 jinja2=3.1.2=pypi_0 jmespath=0.10.0=pypi_0 joblib=1.3.2=pypi_0 jq=1.6=haa95532_1 jsonpatch=1.33=pypi_0 jsonpointer=2.4=pypi_0 jsonschema=4.20.0=pypi_0 jsonschema-specifications=2023.12.1=pypi_0 kiwisolver=1.4.5=pypi_0 langchain=0.0.352=pypi_0 langchain-community=0.0.20=pypi_0 langchain-core=0.1.23=pypi_0 langchain-experimental=0.0.47=pypi_0 langchain-text-splitters=0.0.1=pypi_0 langcodes=3.3.0=pypi_0 langdetect=1.0.9=pypi_0 langsmith=0.0.87=pypi_0 layoutparser=0.3.4=pypi_0 libffi=3.4.4=hd77b12b_0 llama-index=0.9.28.post2=pypi_0 loguru=0.7.2=pypi_0 lxml=5.1.0=pypi_0 m2w64-libwinpthread-git=5.0.0.4634.697f757=2 markdown=3.5.1=pypi_0 markdown-it-py=3.0.0=pypi_0 markdown2=2.4.12=pypi_0 markdownify=0.11.6=pypi_0 markupsafe=2.1.3=pypi_0 marshmallow=3.20.2=pypi_0 matplotlib=3.8.2=pypi_0 mdurl=0.1.2=pypi_0 metaphor-python=0.1.23=pypi_0 modelscope=1.13.1=pypi_0 mpmath=1.3.0=pypi_0 msg-parser=1.2.0=pypi_0 msys2-conda-epoch=20160418=1 multidict=6.0.4=pypi_0 multiprocess=0.70.16=pypi_0 murmurhash=1.0.10=pypi_0 mypy-extensions=1.0.0=pypi_0 nest-asyncio=1.5.8=pypi_0 networkx=3.2.1=pypi_0 nh3=0.2.15=pypi_0 nltk=3.8.1=pypi_0 numexpr=2.8.8=pypi_0 numpy=1.24.4=pypi_0 olefile=0.47=pypi_0 omegaconf=2.3.0=pypi_0 onnx=1.15.0=pypi_0 onnxruntime=1.15.1=pypi_0 openai=1.6.1=pypi_0 opencv-python=4.9.0.80=pypi_0 openpyxl=3.1.2=pypi_0 openssl=3.0.12=h2bbff1b_0 optimum=1.12.0=pypi_0 orjson=3.9.15=pypi_0 oss2=2.18.4=pypi_0结果=1.3.0.post0=pypi_0 packaging=23.2=pypi_0 pandas=2.0.3=pypi_0 pathlib=1.0.1=pypi_0 pdf2image=1.17.0=pypi_0 pdfminer-six=20221105=pypi_0 pdfplumber=0.10.3=pypi_0 peft=0.9.0=pypi_0 pillow=9.5.0=pypi_0 pip=23.3.1=py310haa95532_0 platformdirs=4.2.0=pypi_0 pluggy=1.3.0=pypi_0 portalocker=2.8.2=pypi_0 preshed=3.0.9=pypi_0 prompt-toolkit=3.0.43=pypi_0 protobuf=4.25.1=pypi_0 psutil=5.9.7=pypi_0 pyarrow=14.0.2=pypi_0 pyarrow-hotfix=0.6=pypi_0 pyclipper=1.3.0.post5=pypi_0 pycocotools=2.0.7=pypi_0 pycparser=2.21=pypi_0 pycryptodome=3.20.0=pypi_0 pydantic=1.10.13=pypi_0 pydantic-core=2.16.3=pypi_0 pydeck=0.8.1b0=pypi_0 pygments=2.17.2=pypi_0 pyjwt=2.8.0=pypi_0 pymupdf=1.23.8=pypi_0 pymupdfb=1.23.7=pypi_0 pypandoc=1.12=pypi_0 pyparsing=3.1.1=pypi_0 pypdfium2=4.25.0=pypi_0 pyreadline3=3.4.1=pypi_0 pysocks=1.7.1=pypi_0 pysrt=1.1.2=pypi_0 pytesseract=0.3.10=pypi_0 pytest=7.4.4=pypi_0 python=3.10.13=he1021f5_0 python-dateutil=2.8.2=pypi_0 python-decouple=3.8=pypi_0 python-docx=1.1.0=pypi_0 python-iso639=2024.1.2=pypi_0 python-magic=0.4.27=pypi_0 python-magic-bin=0.4.14=pypi_0 python-multipart=0.0.6=pypi_0 python-pptx=0.6.23=pypi_0 pytz=2023.3.post1=pypi_0 pywin32=306=pypi_0 pyyaml=6.0.1=pypi_0 rapidfuzz=3.6.1=pypi_0 rapidocr-onnxruntime=1.3.8=pypi_0 referencing=0.32.1=pypi_0 regex=2023.12.25=pypi_0请求=2.31.0=pypi_0 里奇=13.7.0=pypi_0 rouge=1.0.1=pypi_0 rpds-py=0.16.2=pypi_0 safetensors=0.4.1=pypi_0 scikit-learn=1.3.2=pypi_0 scipy=1.11.4=pypi_0 selenium=4.17.2=pypi_0 sentence-transformers=2.2.2=pypi_0 sentencepiece=0.1.99=pypi_0 setuptools=68.2.2=py310haa95532_0 sgmllib3k=1.0.0=pypi_0 shapely=2.0.2=pypi_0 shortuuid=1.0.11=pypi_0 simplejson=3.19.2=pypi_0 six=1.16.0=pypi_0 smart-open=6.4.0=pypi_0 smmap=5.0.1=pypi_0 sniffio=1.3.0=pypi_0 socksio=1.0.0=pypi_0 sortedcontainers=2.4.0=pypi_0 soupsieve=2.5=pypi_0 spacy=3.7.2=pypi_0 spacy-legacy=3.0.12=pypi_0空间记录器=1.0.5=pypi_0 splinter=0.21.0=pypi_0 sqlalchemy=2.0.19=pypi_0 sqlite=3.41.2=h2bbff1b_0 srsly=2.4.8=pypi_0 sse-starlette=1.8.2=pypi_0 starlette=0.27.0=pypi_0 streamlit=1.29.0=pypi_0 streamlit-aggrid=0.3.4.post3=pypi_0 streamlit-chatbox=1.1.11=pypi_0 streamlit-feedback=0.1.3=pypi_0 streamlit-modal=0.1.0=pypi_0 streamlit-option-menu=0.3.6=pypi_0 strsimpy=0.2.1=pypi_0 svgwrite=1.4.3=pypi_0 sympy=1.12=pypi_0 制表=0.9.0=pypi_0 tenacity=8.2.3=pypi_0 thinc=8.2.2=pypi_0 threadpoolctl=3.2.0=pypi_0 tiktoken=0.5.2=pypi_0 timm=0.9.12=pypi_0 tk=8.6.12=h2bbff1b_0分词器=0.15.0=pypi_0 toml=0.10.2=pypi_0 tomli=2.0.1=pypi_0 toolz=0.12.0=pypi_0 torch=2.1.1+cu118=pypi_0 torchaudio=2.1.1=pypi_0 torchvision=0.16.1+cu118=pypi_0 tornado=6.4=pypi_0 tqdm=4.66.1=pypi_0 transformers=4.36.2=pypi_0 transformers-stream-generator=0.0.4=pypi_0 trio=0.24.0=pypi_0 trio-websocket=0.11.1=pypi_0 typer=0.9.0=pypi_0 typing-extensions=4.9.0=pypi_0 typing-inspect=0.9.0=pypi_0 tzdata=2023.4=pypi_0 tzlocal=5.2=pypi_0 unstructured=0.11.0=pypi_0 unstructured-inference=0.7.15=pypi_0 unstructured-pytesseract=0.3.12=pypi_0 urllib3=2.1.0=pypi_0 uvicorn=0.25.0=pypi_0验证者=0.22.0=pypi_0 vc=14.2=h21ff451_1 vs2015_runtime=14.27.29016=h5e58377_2 芥末=1.1.2=pypi_0 看门狗=3.0.0=pypi_0 wavedrom=2.0.3.post3=pypi_0 wcwidth=0.2.13=pypi_0 黄鼠狼=0.3.4=pypi_0 weaviate-client=4.5.1=pypi_0 websockets=12.0=pypi_0 wheel=0.41.2=py310haa95532_0 win32-setctime=1.1.0=pypi_0 wrapt=1.16.0=pypi_0 wsproto=1.2.0=pypi_0 xformers=0.0.23.post1=pypi_0 xlrd=2.0.1=pypi_0 xlsxwriter=3.1.9=pypi_0 xxhash=3.4.1=pypi_0 xz=5.4.5=h8cc25b3_0 yapf=0.40.2=pypi_0 yarl=1.9.4=pypi_0 youtube-search=2.1.2=pypi_0 zhipuai=1.0.7=pypi_0 zipp=3.17.0=pypi_0 zlib=1.2.13=h8cc25b3_0

我用这个环境运行没什么问题

[xqxls]

兄弟，可以提供下vllm==0.3.3版本的整个项目的requirements.txt吗

此文件可用于使用以下条件创建环境：

$ conda create --name --file

平台： WIN-64

加速=0.28.0=pypi_0 addict=2.4.0=pypi_0 aiohttp=3.9.1=pypi_0 aiosignal=1.3.1=pypi_0 aliyun-python-sdk-core=2.15.0=pypi_0 aliyun-python-sdk-kms=2.16.2=pypi_0 altair=5.2.0=pypi_0 annotated-types=0.6.0=pypi_0 antlr4-python3-runtime=4.9.3=pypi_0 anyio=3.7.1=pypi_0 arxiv=2.1.0=pypi_0 async-timeout=4.0.3=pypi_0 attrs=23.2.0=pypi_0 authlib=1.3.0=pypi_0 auto-gptq=0.4.2=pypi_0 backoff=2.2.1=pypi_0 beautifulsoup4=4.12.2=pypi_0 bitsandbytes=0.41.1=pypi_0 blinker=1.7.0=pypi_0 blis=0.7.11=pypi_0 brotli=1.1.0=pypi_0 bzip2=1.0.8=he774522_0 ca-certificates=2023.12.12=haa95532_0 cachetools=5.3.2=pypi_0 catalogue=2.0.10=pypi_0证书 = 2023.11.17=pypi_0 cffi=1.16.0=pypi_0 chardet=5.2.0=pypi_0 字符集规范化器=3.3.2=pypi_0 点击=8.1.7=pypi_0 cloudpathlib=0.16.0=pypi_0 colorama=0.4.6=pypi_0 coloredlogs=15.0.1=pypi_0糖果=0.1.4=pypi_0轮廓=1.2.0=pypi_0 crcmod=1.7=pypi_0 密码学=41.0.7=pypi_0 curl-cffi=0.5.10=pypi_0 循环仪=0.12.1=pypi_0 cymem=2.0.8=pypi_0 dashscope=1.13.6=pypi_0 dataclasses=0.6=pypi_0 dataclasses-json=0.6.3=pypi_0 datasets=2.18.0=pypi_0 deprecated=1.2.14=pypi_0 deprecation=2.1.0=pypi_0 dill=0.3.8=pypi_0 distro=1.9.0=pypi_0 duckduckgo-search=4.1.1=pypi_0 effdet=0.4.1=pypi_0einops=0.7.0=pypi_0 表情符号=2.9.0=pypi_0 et-xmlfile=1.1.0=pypi_0 exceptiongroup=1.2.0=pypi_0 faiss-cpu=1.7.4=pypi_0 fastapi=0.106.0=pypi_0 feedparser=6.0.10=pypi_0 filelock=3.13.1=pypi_0 filetype=1.2.0=pypi_0 flatbuffers=23.5.26=pypi_0 fonttools=4.47.0=pypi_0 frozenlist=1.4.1=pypi_0 fschat=0.2.34=pypi_0 fsspec=2023.12.2=pypi_0 gast=0.5.4=pypi_0 gekko=1.0.7=pypi_0 gitdb=4.0.11=pypi_0 gitpython=3.1.40=pypi_0 greenlet=3.0.3=pypi_0 grpcio=1.62.0=pypi_0 grpcio-health-checking=1.62.0=pypi_0 grpcio-tools=1.62.0=pypi_0 h11=0.14.0=pypi_0 h2=4.1.0=pypi_0 hpack=4.0.0=pypi_0 httpcore=1.0.2=pypi_0 httpx=0.26.0=pypi_0 httpx-sse=0.4.0=pypi_0 huggingface-hub=0.20.2=pypi_0 humanfriendly=10.0=pypi_0 hyperframe=6.0.1=pypi_0 idna=3.6=pypi_0 importlib-metadata=6.11.0=pypi_0 iniconfig=2.0.0=pypi_0 iopath=0.1.10=pypi_0 jinja2=3.1.2=pypi_0 jmespath=0.10.0=pypi_0 joblib=1.3.2=pypi_0 jq=1.6=haa95532_1 jsonpatch=1.33=pypi_0 jsonpointer=2.4=pypi_0 jsonschema=4.20.0=pypi_0 jsonschema-specifications=2023.12.1=pypi_0 kiwisolver=1.4.5=pypi_0 langchain=0.0.352=pypi_0 langchain-community=0.0.20=pypi_0 langchain-core=0.1.23=pypi_0 langchain-experimental=0.0.47=pypi_0 langchain-text-splitters=0.0.1=pypi_0 langcodes=3.3.0=pypi_0 langdetect=1.0.9=pypi_0 langsmith=0.0.87=pypi_0 layoutparser=0.3.4=pypi_0 libffi=3.4.4=hd77b12b_0 llama-index=0.9.28.post2=pypi_0 loguru=0.7.2=pypi_0 lxml=5.1.0=pypi_0 m2w64-libwinpthread-git=5.0.0.4634.697f757=2 markdown=3.5.1=pypi_0 markdown-it-py=3.0.0=pypi_0 markdown2=2.4.12=pypi_0 markdownify=0.11.6=pypi_0 markupsafe=2.1.3=pypi_0 marshmallow=3.20.2=pypi_0 matplotlib=3.8.2=pypi_0 mdurl=0.1.2=pypi_0 metaphor-python=0.1.23=pypi_0 modelscope=1.13.1=pypi_0 mpmath=1.3.0=pypi_0 msg-parser=1.2.0=pypi_0 msys2-conda-epoch=20160418=1 multidict=6.0.4=pypi_0 multiprocess=0.70.16=pypi_0 murmurhash=1.0.10=pypi_0 mypy-extensions=1.0.0=pypi_0 nest-asyncio=1.5.8=pypi_0 networkx=3.2.1=pypi_0 nh3=0.2.15=pypi_0 nltk=3.8.1=pypi_0 numexpr=2.8.8=pypi_0 numpy=1.24.4=pypi_0 olefile=0.47=pypi_0 omegaconf=2.3.0=pypi_0 onnx=1.15.0=pypi_0 onnxruntime=1.15.1=pypi_0 openai=1.6.1=pypi_0 opencv-python=4.9.0.80=pypi_0 openpyxl=3.1.2=pypi_0 openssl=3.0.12=h2bbff1b_0 optimum=1.12.0=pypi_0 orjson=3.9.15=pypi_0 oss2=2.18.4=pypi_0结果=1.3.0.post0=pypi_0 packaging=23.2=pypi_0 pandas=2.0.3=pypi_0 pathlib=1.0.1=pypi_0 pdf2image=1.17.0=pypi_0 pdfminer-six=20221105=pypi_0 pdfplumber=0.10.3=pypi_0 peft=0.9.0=pypi_0 pillow=9.5.0=pypi_0 pip=23.3.1=py310haa95532_0 platformdirs=4.2.0=pypi_0 pluggy=1.3.0=pypi_0 portalocker=2.8.2=pypi_0 preshed=3.0.9=pypi_0 prompt-toolkit=3.0.43=pypi_0 protobuf=4.25.1=pypi_0 psutil=5.9.7=pypi_0 pyarrow=14.0.2=pypi_0 pyarrow-hotfix=0.6=pypi_0 pyclipper=1.3.0.post5=pypi_0 pycocotools=2.0.7=pypi_0 pycparser=2.21=pypi_0 pycryptodome=3.20.0=pypi_0 pydantic=1.10.13=pypi_0 pydantic-core=2.16.3=pypi_0 pydeck=0.8.1b0=pypi_0 pygments=2.17.2=pypi_0 pyjwt=2.8.0=pypi_0 pymupdf=1.23.8=pypi_0 pymupdfb=1.23.7=pypi_0 pypandoc=1.12=pypi_0 pyparsing=3.1.1=pypi_0 pypdfium2=4.25.0=pypi_0 pyreadline3=3.4.1=pypi_0 pysocks=1.7.1=pypi_0 pysrt=1.1.2=pypi_0 pytesseract=0.3.10=pypi_0 pytest=7.4.4=pypi_0 python=3.10.13=he1021f5_0 python-dateutil=2.8.2=pypi_0 python-decouple=3.8=pypi_0 python-docx=1.1.0=pypi_0 python-iso639=2024.1.2=pypi_0 python-magic=0.4.27=pypi_0 python-magic-bin=0.4.14=pypi_0 python-multipart=0.0.6=pypi_0 python-pptx=0.6.23=pypi_0 pytz=2023.3.post1=pypi_0 pywin32=306=pypi_0 pyyaml=6.0.1=pypi_0 rapidfuzz=3.6.1=pypi_0 rapidocr-onnxruntime=1.3.8=pypi_0 referencing=0.32.1=pypi_0 regex=2023.12.25=pypi_0请求=2.31.0=pypi_0 里奇=13.7.0=pypi_0 rouge=1.0.1=pypi_0 rpds-py=0.16.2=pypi_0 safetensors=0.4.1=pypi_0 scikit-learn=1.3.2=pypi_0 scipy=1.11.4=pypi_0 selenium=4.17.2=pypi_0 sentence-transformers=2.2.2=pypi_0 sentencepiece=0.1.99=pypi_0 setuptools=68.2.2=py310haa95532_0 sgmllib3k=1.0.0=pypi_0 shapely=2.0.2=pypi_0 shortuuid=1.0.11=pypi_0 simplejson=3.19.2=pypi_0 six=1.16.0=pypi_0 smart-open=6.4.0=pypi_0 smmap=5.0.1=pypi_0 sniffio=1.3.0=pypi_0 socksio=1.0.0=pypi_0 sortedcontainers=2.4.0=pypi_0 soupsieve=2.5=pypi_0 spacy=3.7.2=pypi_0 spacy-legacy=3.0.12=pypi_0空间记录器=1.0.5=pypi_0 splinter=0.21.0=pypi_0 sqlalchemy=2.0.19=pypi_0 sqlite=3.41.2=h2bbff1b_0 srsly=2.4.8=pypi_0 sse-starlette=1.8.2=pypi_0 starlette=0.27.0=pypi_0 streamlit=1.29.0=pypi_0 streamlit-aggrid=0.3.4.post3=pypi_0 streamlit-chatbox=1.1.11=pypi_0 streamlit-feedback=0.1.3=pypi_0 streamlit-modal=0.1.0=pypi_0 streamlit-option-menu=0.3.6=pypi_0 strsimpy=0.2.1=pypi_0 svgwrite=1.4.3=pypi_0 sympy=1.12=pypi_0 制表=0.9.0=pypi_0 tenacity=8.2.3=pypi_0 thinc=8.2.2=pypi_0 threadpoolctl=3.2.0=pypi_0 tiktoken=0.5.2=pypi_0 timm=0.9.12=pypi_0 tk=8.6.12=h2bbff1b_0分词器=0.15.0=pypi_0 toml=0.10.2=pypi_0 tomli=2.0.1=pypi_0 toolz=0.12.0=pypi_0 torch=2.1.1+cu118=pypi_0 torchaudio=2.1.1=pypi_0 torchvision=0.16.1+cu118=pypi_0 tornado=6.4=pypi_0 tqdm=4.66.1=pypi_0 transformers=4.36.2=pypi_0 transformers-stream-generator=0.0.4=pypi_0 trio=0.24.0=pypi_0 trio-websocket=0.11.1=pypi_0 typer=0.9.0=pypi_0 typing-extensions=4.9.0=pypi_0 typing-inspect=0.9.0=pypi_0 tzdata=2023.4=pypi_0 tzlocal=5.2=pypi_0 unstructured=0.11.0=pypi_0 unstructured-inference=0.7.15=pypi_0 unstructured-pytesseract=0.3.12=pypi_0 urllib3=2.1.0=pypi_0 uvicorn=0.25.0=pypi_0验证者=0.22.0=pypi_0 vc=14.2=h21ff451_1 vs2015_runtime=14.27.29016=h5e58377_2 芥末=1.1.2=pypi_0 看门狗=3.0.0=pypi_0 wavedrom=2.0.3.post3=pypi_0 wcwidth=0.2.13=pypi_0 黄鼠狼=0.3.4=pypi_0 weaviate-client=4.5.1=pypi_0 websockets=12.0=pypi_0 wheel=0.41.2=py310haa95532_0 win32-setctime=1.1.0=pypi_0 wrapt=1.16.0=pypi_0 wsproto=1.2.0=pypi_0 xformers=0.0.23.post1=pypi_0 xlrd=2.0.1=pypi_0 xlsxwriter=3.1.9=pypi_0 xxhash=3.4.1=pypi_0 xz=5.4.5=h8cc25b3_0 yapf=0.40.2=pypi_0 yarl=1.9.4=pypi_0 youtube-search=2.1.2=pypi_0 zhipuai=1.0.7=pypi_0 zipp=3.17.0=pypi_0 zlib=1.2.13=h8cc25b3_0

我用这个环境运行没什么问题

有没有适用于linux系统的环境

[xqxls]

兄弟，可以提供下vllm==0.3.3版本的整个项目的requirements.txt吗

此文件可用于使用以下条件创建环境：

$ conda create --name --file

平台： WIN-64

加速=0.28.0=pypi_0 addict=2.4.0=pypi_0 aiohttp=3.9.1=pypi_0 aiosignal=1.3.1=pypi_0 aliyun-python-sdk-core=2.15.0=pypi_0 aliyun-python-sdk-kms=2.16.2=pypi_0 altair=5.2.0=pypi_0 annotated-types=0.6.0=pypi_0 antlr4-python3-runtime=4.9.3=pypi_0 anyio=3.7.1=pypi_0 arxiv=2.1.0=pypi_0 async-timeout=4.0.3=pypi_0 attrs=23.2.0=pypi_0 authlib=1.3.0=pypi_0 auto-gptq=0.4.2=pypi_0 backoff=2.2.1=pypi_0 beautifulsoup4=4.12.2=pypi_0 bitsandbytes=0.41.1=pypi_0 blinker=1.7.0=pypi_0 blis=0.7.11=pypi_0 brotli=1.1.0=pypi_0 bzip2=1.0.8=he774522_0 ca-certificates=2023.12.12=haa95532_0 cachetools=5.3.2=pypi_0 catalogue=2.0.10=pypi_0证书 = 2023.11.17=pypi_0 cffi=1.16.0=pypi_0 chardet=5.2.0=pypi_0 字符集规范化器=3.3.2=pypi_0 点击=8.1.7=pypi_0 cloudpathlib=0.16.0=pypi_0 colorama=0.4.6=pypi_0 coloredlogs=15.0.1=pypi_0糖果=0.1.4=pypi_0轮廓=1.2.0=pypi_0 crcmod=1.7=pypi_0 密码学=41.0.7=pypi_0 curl-cffi=0.5.10=pypi_0 循环仪=0.12.1=pypi_0 cymem=2.0.8=pypi_0 dashscope=1.13.6=pypi_0 dataclasses=0.6=pypi_0 dataclasses-json=0.6.3=pypi_0 datasets=2.18.0=pypi_0 deprecated=1.2.14=pypi_0 deprecation=2.1.0=pypi_0 dill=0.3.8=pypi_0 distro=1.9.0=pypi_0 duckduckgo-search=4.1.1=pypi_0 effdet=0.4.1=pypi_0einops=0.7.0=pypi_0 表情符号=2.9.0=pypi_0 et-xmlfile=1.1.0=pypi_0 exceptiongroup=1.2.0=pypi_0 faiss-cpu=1.7.4=pypi_0 fastapi=0.106.0=pypi_0 feedparser=6.0.10=pypi_0 filelock=3.13.1=pypi_0 filetype=1.2.0=pypi_0 flatbuffers=23.5.26=pypi_0 fonttools=4.47.0=pypi_0 frozenlist=1.4.1=pypi_0 fschat=0.2.34=pypi_0 fsspec=2023.12.2=pypi_0 gast=0.5.4=pypi_0 gekko=1.0.7=pypi_0 gitdb=4.0.11=pypi_0 gitpython=3.1.40=pypi_0 greenlet=3.0.3=pypi_0 grpcio=1.62.0=pypi_0 grpcio-health-checking=1.62.0=pypi_0 grpcio-tools=1.62.0=pypi_0 h11=0.14.0=pypi_0 h2=4.1.0=pypi_0 hpack=4.0.0=pypi_0 httpcore=1.0.2=pypi_0 httpx=0.26.0=pypi_0 httpx-sse=0.4.0=pypi_0 huggingface-hub=0.20.2=pypi_0 humanfriendly=10.0=pypi_0 hyperframe=6.0.1=pypi_0 idna=3.6=pypi_0 importlib-metadata=6.11.0=pypi_0 iniconfig=2.0.0=pypi_0 iopath=0.1.10=pypi_0 jinja2=3.1.2=pypi_0 jmespath=0.10.0=pypi_0 joblib=1.3.2=pypi_0 jq=1.6=haa95532_1 jsonpatch=1.33=pypi_0 jsonpointer=2.4=pypi_0 jsonschema=4.20.0=pypi_0 jsonschema-specifications=2023.12.1=pypi_0 kiwisolver=1.4.5=pypi_0 langchain=0.0.352=pypi_0 langchain-community=0.0.20=pypi_0 langchain-core=0.1.23=pypi_0 langchain-experimental=0.0.47=pypi_0 langchain-text-splitters=0.0.1=pypi_0 langcodes=3.3.0=pypi_0 langdetect=1.0.9=pypi_0 langsmith=0.0.87=pypi_0 layoutparser=0.3.4=pypi_0 libffi=3.4.4=hd77b12b_0 llama-index=0.9.28.post2=pypi_0 loguru=0.7.2=pypi_0 lxml=5.1.0=pypi_0 m2w64-libwinpthread-git=5.0.0.4634.697f757=2 markdown=3.5.1=pypi_0 markdown-it-py=3.0.0=pypi_0 markdown2=2.4.12=pypi_0 markdownify=0.11.6=pypi_0 markupsafe=2.1.3=pypi_0 marshmallow=3.20.2=pypi_0 matplotlib=3.8.2=pypi_0 mdurl=0.1.2=pypi_0 metaphor-python=0.1.23=pypi_0 modelscope=1.13.1=pypi_0 mpmath=1.3.0=pypi_0 msg-parser=1.2.0=pypi_0 msys2-conda-epoch=20160418=1 multidict=6.0.4=pypi_0 multiprocess=0.70.16=pypi_0 murmurhash=1.0.10=pypi_0 mypy-extensions=1.0.0=pypi_0 nest-asyncio=1.5.8=pypi_0 networkx=3.2.1=pypi_0 nh3=0.2.15=pypi_0 nltk=3.8.1=pypi_0 numexpr=2.8.8=pypi_0 numpy=1.24.4=pypi_0 olefile=0.47=pypi_0 omegaconf=2.3.0=pypi_0 onnx=1.15.0=pypi_0 onnxruntime=1.15.1=pypi_0 openai=1.6.1=pypi_0 opencv-python=4.9.0.80=pypi_0 openpyxl=3.1.2=pypi_0 openssl=3.0.12=h2bbff1b_0 optimum=1.12.0=pypi_0 orjson=3.9.15=pypi_0 oss2=2.18.4=pypi_0结果=1.3.0.post0=pypi_0 packaging=23.2=pypi_0 pandas=2.0.3=pypi_0 pathlib=1.0.1=pypi_0 pdf2image=1.17.0=pypi_0 pdfminer-six=20221105=pypi_0 pdfplumber=0.10.3=pypi_0 peft=0.9.0=pypi_0 pillow=9.5.0=pypi_0 pip=23.3.1=py310haa95532_0 platformdirs=4.2.0=pypi_0 pluggy=1.3.0=pypi_0 portalocker=2.8.2=pypi_0 preshed=3.0.9=pypi_0 prompt-toolkit=3.0.43=pypi_0 protobuf=4.25.1=pypi_0 psutil=5.9.7=pypi_0 pyarrow=14.0.2=pypi_0 pyarrow-hotfix=0.6=pypi_0 pyclipper=1.3.0.post5=pypi_0 pycocotools=2.0.7=pypi_0 pycparser=2.21=pypi_0 pycryptodome=3.20.0=pypi_0 pydantic=1.10.13=pypi_0 pydantic-core=2.16.3=pypi_0 pydeck=0.8.1b0=pypi_0 pygments=2.17.2=pypi_0 pyjwt=2.8.0=pypi_0 pymupdf=1.23.8=pypi_0 pymupdfb=1.23.7=pypi_0 pypandoc=1.12=pypi_0 pyparsing=3.1.1=pypi_0 pypdfium2=4.25.0=pypi_0 pyreadline3=3.4.1=pypi_0 pysocks=1.7.1=pypi_0 pysrt=1.1.2=pypi_0 pytesseract=0.3.10=pypi_0 pytest=7.4.4=pypi_0 python=3.10.13=he1021f5_0 python-dateutil=2.8.2=pypi_0 python-decouple=3.8=pypi_0 python-docx=1.1.0=pypi_0 python-iso639=2024.1.2=pypi_0 python-magic=0.4.27=pypi_0 python-magic-bin=0.4.14=pypi_0 python-multipart=0.0.6=pypi_0 python-pptx=0.6.23=pypi_0 pytz=2023.3.post1=pypi_0 pywin32=306=pypi_0 pyyaml=6.0.1=pypi_0 rapidfuzz=3.6.1=pypi_0 rapidocr-onnxruntime=1.3.8=pypi_0 referencing=0.32.1=pypi_0 regex=2023.12.25=pypi_0请求=2.31.0=pypi_0 里奇=13.7.0=pypi_0 rouge=1.0.1=pypi_0 rpds-py=0.16.2=pypi_0 safetensors=0.4.1=pypi_0 scikit-learn=1.3.2=pypi_0 scipy=1.11.4=pypi_0 selenium=4.17.2=pypi_0 sentence-transformers=2.2.2=pypi_0 sentencepiece=0.1.99=pypi_0 setuptools=68.2.2=py310haa95532_0 sgmllib3k=1.0.0=pypi_0 shapely=2.0.2=pypi_0 shortuuid=1.0.11=pypi_0 simplejson=3.19.2=pypi_0 six=1.16.0=pypi_0 smart-open=6.4.0=pypi_0 smmap=5.0.1=pypi_0 sniffio=1.3.0=pypi_0 socksio=1.0.0=pypi_0 sortedcontainers=2.4.0=pypi_0 soupsieve=2.5=pypi_0 spacy=3.7.2=pypi_0 spacy-legacy=3.0.12=pypi_0空间记录器=1.0.5=pypi_0 splinter=0.21.0=pypi_0 sqlalchemy=2.0.19=pypi_0 sqlite=3.41.2=h2bbff1b_0 srsly=2.4.8=pypi_0 sse-starlette=1.8.2=pypi_0 starlette=0.27.0=pypi_0 streamlit=1.29.0=pypi_0 streamlit-aggrid=0.3.4.post3=pypi_0 streamlit-chatbox=1.1.11=pypi_0 streamlit-feedback=0.1.3=pypi_0 streamlit-modal=0.1.0=pypi_0 streamlit-option-menu=0.3.6=pypi_0 strsimpy=0.2.1=pypi_0 svgwrite=1.4.3=pypi_0 sympy=1.12=pypi_0 制表=0.9.0=pypi_0 tenacity=8.2.3=pypi_0 thinc=8.2.2=pypi_0 threadpoolctl=3.2.0=pypi_0 tiktoken=0.5.2=pypi_0 timm=0.9.12=pypi_0 tk=8.6.12=h2bbff1b_0分词器=0.15.0=pypi_0 toml=0.10.2=pypi_0 tomli=2.0.1=pypi_0 toolz=0.12.0=pypi_0 torch=2.1.1+cu118=pypi_0 torchaudio=2.1.1=pypi_0 torchvision=0.16.1+cu118=pypi_0 tornado=6.4=pypi_0 tqdm=4.66.1=pypi_0 transformers=4.36.2=pypi_0 transformers-stream-generator=0.0.4=pypi_0 trio=0.24.0=pypi_0 trio-websocket=0.11.1=pypi_0 typer=0.9.0=pypi_0 typing-extensions=4.9.0=pypi_0 typing-inspect=0.9.0=pypi_0 tzdata=2023.4=pypi_0 tzlocal=5.2=pypi_0 unstructured=0.11.0=pypi_0 unstructured-inference=0.7.15=pypi_0 unstructured-pytesseract=0.3.12=pypi_0 urllib3=2.1.0=pypi_0 uvicorn=0.25.0=pypi_0验证者=0.22.0=pypi_0 vc=14.2=h21ff451_1 vs2015_runtime=14.27.29016=h5e58377_2 芥末=1.1.2=pypi_0 看门狗=3.0.0=pypi_0 wavedrom=2.0.3.post3=pypi_0 wcwidth=0.2.13=pypi_0 黄鼠狼=0.3.4=pypi_0 weaviate-client=4.5.1=pypi_0 websockets=12.0=pypi_0 wheel=0.41.2=py310haa95532_0 win32-setctime=1.1.0=pypi_0 wrapt=1.16.0=pypi_0 wsproto=1.2.0=pypi_0 xformers=0.0.23.post1=pypi_0 xlrd=2.0.1=pypi_0 xlsxwriter=3.1.9=pypi_0 xxhash=3.4.1=pypi_0 xz=5.4.5=h8cc25b3_0 yapf=0.40.2=pypi_0 yarl=1.9.4=pypi_0 youtube-search=2.1.2=pypi_0 zhipuai=1.0.7=pypi_0 zipp=3.17.0=pypi_0 zlib=1.2.13=h8cc25b3_0

我用这个环境运行没什么问题

有没有适用于linux系统的环境

The conflict is caused by: The user requested pydantic==1.10.13 langchain 0.0.352 depends on pydantic<3 and >=1 fschat 0.2.34 depends on pydantic<2 and >=1 openai 1.6.1 depends on pydantic<3 and >=1.9.0 fastapi 0.106.0 depends on pydantic!=1.8, !=1.8.1, !=2.0.0, !=2.0.1, !=2.1.0, <3.0.0 and >=1.7.4 spacy 3.7.2 depends on pydantic!=1.8, !=1.8.1, <3.0.0 and >=1.7.4 vllm 0.3.0 depends on pydantic>=2.0 这个确定是vllm 版本在0.3.0以上的依赖吗，我看 vllm 0.3.0 要求 pydantic>=2.0