boost-devs / peer-session

🚀 부스트캠프 AI Tech 1기 U-Stage 4조 피어 세션 자료/질문 모음 (archived)
8 stars 2 forks source link

[후미] 언제 메모리를 고려해야 할까? #11

Closed CoodingPenguin closed 3 years ago

CoodingPenguin commented 3 years ago

🙌 질문자


❓ 질문 내용


opijae commented 3 years ago

컴퓨팅 파워가 작은 기기(ex 휴대용 기기, 임베디드 기기)들은 메모리가 부족하다.

GPU를 사용해 학습할 때 batch size를 정해 한번에 얼마 만큼 학습 할지 정합니다. 이 때 자신의 GPU 메모리가 얼마인지 고려해 개발을 하게 됩니다.

tf나 keras에서 데이터를 불려올때 메모리에 한꺼번에 올려놓지 않고 yield를 사용해 필요한 것만 그때그때 사용합니다. http://www.kwangsiklee.com/2018/11/keras%EC%97%90%EC%84%9C-sequence%EB%A5%BC-%EC%9D%B4%EC%9A%A9%ED%95%98%EC%97%AC-%EB%8C%80%EC%9A%A9%EB%9F%89-%EB%8D%B0%EC%9D%B4%ED%84%B0%EC%85%8B-%EC%B2%98%EB%A6%AC%ED%95%98%EA%B8%B0/ https://ourcstory.tistory.com/523