codingeverybody / codingyahac

https://coding.yah.ac
291 stars 50 forks source link

모델을 만들때 레이어 갯수 #1111

Open 1tang2bang92 opened 3 years ago

1tang2bang92 commented 3 years ago

해결하고자 하는 문제

안녕하세요. 최근 인공지능 모델을 만들며 노는 사람입니다.

최근 몇몇의 모델을 만들면서 든 생각인데, 예로들어 MLP에서 히든레이어의 갯수와 퍼셉트론의 갯수를 어떤기준으로 만들어 넣는지 잘 모르겠습니다. 히든레이어와 퍼셉트론의 갯수를 계속 늘리기에는 오버피팅이 쉽게 일어날것 같고, 조금 넣자니 언더피팅이 날것같습니다.

보통 어떤 규칙으로 레이어와 퍼셉트론의 갯수를 정하시나요?

코드 혹은 오류

   https://github.com/machrisaa/tensorflow-vgg/blob/master/vgg16.py

위는 vgg16을 텐서플로우로 구현한 코드의 일 부분입니다.
vgg는 5개의 컨볼루션 레이어를 이용했는데...
왜 5개여야 하는지 잘 모르겠습니다..
paullabkorea commented 3 years ago

히든레이어는 1개 이상 가져가도 효율이 크게 개선되지 않는다는 글을 보고 2, 3 ~ 100개까지 테스트를 해본 사람입니다. 논문도 읽어보긴 했는데 출처가 기억이 나진 않아요.ㅜㅜ 저는 보통 1개의 히든 레이어, 노드의 수는 200 ~ 500개를 잡습니다. 초기 값은 경험에 기반하고, 효율에 따라 조정합니다.