codestates / ds-TIL

Data Science TIL page
2 stars 1 forks source link

[TIL]이동훈_122220 #1234

Open kroonstazy opened 3 years ago

kroonstazy commented 3 years ago

키워드

역전파 알고리즘

배운 것

Backward Propagation (손실)Loss, (비용)Cost, (에러)Error function.

어려웠던 부분

Calculus 수업에서 적분을 배웠지만 (Partial Derivative) 편적분은 이번에 처음 접해본다. 적분하기 어려운 식에서, Chain Rule을 적용하여 적분하기 불가능/어려워 보이는 수식도, 대치를 통해 적분을 하게 해주는것... 이라고만 알고 넘어가면 될것 같다.

수학에서 보이는 기호들을 보면 무슨 말인지 모르니 지레 겁 부터 먹게 된다...

그렇지만, 데이터인풋의 행렬, 각 Node를 지날때 마다 생기는 에러함수의 값을 줄이기위해 사용한다. 정도로만 이해하는게 좋을 것 같다.

이번에 처음 행과, 열을 배웠는데 모든것을 짬뽕시켜 / 집약시켜, 이해하니 뇌에 과부화가 올 것 같다.

더 알고 싶은 부분 / 공부하고 싶은 부분

수학적 지식이 필요한게 느껴진다..., 나중에 시간이 생긴다면 Linear Algebra, Multivariable Calculs, 등. 내가

느낀 점

확실히 이런 알고리즘을 볼때마다, 이건 일반 프로그래머들이 뚝딱해서 만들어진것이 아니라 코딩을 할 수 있는 수학자들이 만들었구나... 라는 생각이 자주 든다... (알고리즘마나, 그것을 설명하기 위해 나오는 논문들만봐도...)

단숨에 이해하고 싶지만, 너무나 생소한부분이 정말 많다... 🥵 🤯

그나마 코드 사용법은 부담이 덜 되서 좋다. 그래도 이게 왜 이렇게 작동하는지 알아야 하고, 만약에 우리가 알고리즘을 손수 만들어야 한다면, 그럴때 유용하게 사용 할 수 있겠지.