Closed fgenie closed 5 months ago
openai migrate으로 코드 migration 진행하고 수동으로 일부 수정하고 ocw, svamp 각 72, 100 개 샘플에 대해서 run_inference.py, run_evaluation.py 정상 작동함을 확인하고 푸시함.
run_inference.py
run_evaluation.py
이는 TGI 서버 openai SDK 호환성 적용을 위함.
필요에 따라 AzureSDK 를 적용해볼 수 있고, 좀더 용이할 것으로 기대.
@jason9693 엔드포인트 버전 업을 고려해주세요. 이게 그걸 위한 클라이언트 변경이라서 리뷰 요청을 드렸습니다. 병합하고 닫겠습니다.
openai migrate으로 코드 migration 진행하고 수동으로 일부 수정하고 ocw, svamp 각 72, 100 개 샘플에 대해서
run_inference.py
,run_evaluation.py
정상 작동함을 확인하고 푸시함.이는 TGI 서버 openai SDK 호환성 적용을 위함.
필요에 따라 AzureSDK 를 적용해볼 수 있고, 좀더 용이할 것으로 기대.