Closed yw-furiosa closed 1 year ago
네 좋은 것 같습니다. 기존에 특정 장치 지정하는 표현 0:0
같은 형태에서는 npu family 를 선택할 수 없는데요. 이제는 warboy(1)*2
에서 표현가능한 것과 동일하게 추후에 특정 npu family 를 지정하는 형태로 발전 가능해질 것 같습니다. 그리고 표현 자체로 출력했을 때 가독성도 훨씬 좋습니다.
추후에 warboy, regagade flagship, renegade S 등이 모두 하나의 SW stack 에서 지원되는 상황에서 제가 생각하는 궁극적인 지원 form 방향은 이렇습니다. 1 pe 표현을 예로 들면,
npu:0:0
또는 npu(1)
는 시스템에 가용한 임의의 npu의 1 pe (multi-tenancy 환경에서 cloud 환경 등에서 시스템에 할당받은 장치를 선택. 예: pod 에 warboy 가 할당되면 warboy, renegade가 할당되면 renegade)warboy:0:0
또는 warboy(1)
는 warboy 1 pe 선택 (warboy가 가용하지 않으면 에러 리턴)renegade:0:0
또는 renegade(1)
는 renegade 1 pe 선택 (renegade가 가용하지 않으면 에러 리턴)renegade flagship하고 S 의 경우에 지금까지 공개된 내용만 보면 pe 개수만 다르고 1 pe 자체의 스펙은 비슷한데요. 이런 상황에서는 npu:0:0
과 같이 임의의 npu 장치를 선택할 수 있는 form도 유용하게 쓰일 것 같습니다.
resolve #71