search

xxxjjhhh / vllm_docker

개발자 유미 : vLLM 도커 환경 배포 스크립트 및 예시 코드
https://youtu.be/Q99WfdcACyY
0 stars 0 forks source link

cargo, rust 오류 #6

Closed xxxjjhhh closed 3 days ago

xxxjjhhh commented 3 days ago

cargo, rust 오류

도커 이미지 빌드시 오류 발생

xxxjjhhh commented 3 days ago

https://rustup.rs/

xxxjjhhh commented 3 days ago

현재 tokenizers 모듈에서 문제가 발생, 위에서 우선 rust 설치 후 환경 변수 적용해도 동일한 문제

xxxjjhhh commented 3 days ago

https://github.com/huggingface/tokenizers/issues/1691

xxxjjhhh commented 3 days ago

https://www.devyummi.com/page?id=6746dc95deedc74b9b1e97ef

huggingface 측에서도 이슈 접수 완료

xxxjjhhh commented 3 days ago

FROM nvidia/cuda:12.6.2-cudnn-devel-ubuntu22.04

계속 오류시 베이스 이미지를 우분투 22.04로 올리면 자동으로 파이썬 3.10 버전 적용