fgenie / rims_minimal

Been lazy enough to pull over again to the end!
0 stars 1 forks source link

Migrate to openai 1.11.0 #32

Closed fgenie closed 5 months ago

fgenie commented 5 months ago

openai migrate으로 코드 migration 진행하고 수동으로 일부 수정하고 ocw, svamp 각 72, 100 개 샘플에 대해서 run_inference.py, run_evaluation.py 정상 작동함을 확인하고 푸시함.

이는 TGI 서버 openai SDK 호환성 적용을 위함.

필요에 따라 AzureSDK 를 적용해볼 수 있고, 좀더 용이할 것으로 기대.

fgenie commented 5 months ago

@jason9693 엔드포인트 버전 업을 고려해주세요. 이게 그걸 위한 클라이언트 변경이라서 리뷰 요청을 드렸습니다. 병합하고 닫겠습니다.