Meeting Minutes

[kjun25]

0721 목

1) extract_model 이거던 뭐든 써서 모델을 분할해서 파일로저장 (onnx)

2) 2개의 파일로 저장했으면, onnxruntime 실행시켜서 모델이 정상적인지 확인

2-1) 안짜른 모델로 한거랑, 짜른걸로한거랑 input이 같을 때 결과가 동일하게 나오도록 단 짜른 모델은 1->2

0726 화

1. input-> 원본-> output

2. input-> 자른거1-> result-> 자른거 2 -> output 두개 output 비교했을때 True

3. input-> 원본-> output

4. input-> 자른거1-> result-> 자른거 2 -> result2 -> 자른거 3-> output 두개 output 비교했을때 false yaml parser 구현

0728 목

• 첫번째 relu 이후에서 자를경우 result가 달라짐(원인 파악 필요)
  1. extract model Protobuf로 읽어서 분석
  2. Netron 말고 python api로 tensor로 읽어서 전체 차원 비교

[leejaymin]

오늘 회의내용도 올려주세요.

[kjun25]

0804 목 result value에서 소수점 -6자리까지는 변동이 있어도 결과에 문제가 없다

(np.abs(a-b)>0.000001).astype(int)

해당 코드 활용해서 절대값 비교로 검증 활용

• onnx 를 자르는 부분을 다양하게 해서 가능한지 여부 테스트
• extract_model 실행시에 onnx.onnx_cpp2py_export.checker.ValidationError 문제에 대해서 어느 부분에서 문제가 있는지 차후 사용에 있어서 문제 발생여부 확인 필요
• yaml로 onnx를 마음대로 자를 수 있는 테스트 프로그램 필요

[kjun25]

• BatchNormalization: resnetv10_stage1_batchnorm0_fwd

  partition1_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_stage1_conv0_fwd']
  partition1_2.yaml
  ['resnetv10_stage1_conv0_fwd', 'resnetv10_stage1_batchnorm0_gamma', 'resnetv10_stage1_batchnorm0_beta', 'resnetv10_stage1_batchnorm0_running_mean', 'resnetv10_stage1_batchnorm0_running_var']
  ['resnetv10_dense0_fwd']
  비정상적인 onnx 생성

• Relu: resnetv10_relu0_fwd

  partition2_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_relu0_fwd']
  partition2_2.yaml
  ['resnetv10_relu0_fwd']
  ['resnetv10_dense0_fwd']
  TRUE 0 (소수점 6자리(0.000001))

• Conv: resnetv10_stage1_conv0_fwd

  partition3_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_stage1_conv0_fwd']
  partition3_2.yaml
  ['resnetv10_stage1_relu0_fwd', 'resnetv10_stage1_conv1_weight']
  ['resnetv10_dense0_fwd']
  비정상적인 onnx 생성

• Relu: resnetv10_stage1_activation0

  partition5_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_stage1_activation0']
  partition5_2.yaml
  ['resnetv10_stage1_activation0', 'resnetv10_stage1_conv2_weight']
  ['resnetv10_dense0_fwd']
  FALSE 2 (소수점 5자리(0.00001) 까진 0이 나오고 6자리(0.000001)부터 2가 나옴)

• Relu : resnetv10_stage1_activation1

  partition6_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_stage1_activation1']
  partition6_2.yaml
  ['resnetv10_stage1_activation1', 'resnetv10_stage2_conv2_weight']
  ['resnetv10_dense0_fwd']
  TRUE 0 (소수점 6자리(0.000001))

• Relu: resnetv10_relu0_fwd
• Relu: resnetv10_stage1_activation0

  partition7_1.yaml
  ['data', '_defaultpreprocess0_init_mean']
  ['resnetv10_relu0_fwd']
  partition7_2.yaml
  ['resnetv10_relu0_fwd']
  ['resnetv10_stage1_activation0']
  partition7_3.yaml
  ['resnetv10_stage1_activation0', 'resnetv10_stage1_conv2_weight']
  ['resnetv10_dense0_fwd']
  FALSE 2 (소수점 5자리(0.00001) 까진 0이 나오고 6자리(0.000001)부터 2가 나옴)

  ---

  @leejaymin Relu에서 자르면 결과가 동일하게 잘나오지만 conv, BatchNorm에서 자르면 잘못된 onnx 파일 생성함 그리고 yaml에 relu와 conv관련 node name은 있지만 BatchNorm관련 node는 없어서 애초에 사람이 손대지 않는한 자르는것도 안됨