728x90
반응형
[Data Science] gradient, 경사하강법, 경사상승법, 최저점 구하기, loss function(평균제곱오차)
경사하강법 그래디언트 (편)미분값이다. 최고 값, 최솟 값을 찾기 위해서 그래프의 증감방향으로 점진적으로 접근하는 방법이다. 경사하강법, 경사 상승법 경사 하강법은 Local(범위가 정해진) minimum을 찾는 방법이다. 반대로 경사 상승법은 Local maximum을 찾는 방법이다. 경사 하강법에서 부호만 반대로 하면 경사 상승법 적용이 가능하다. 경사하강법 현재 x 값의 미분값(기울기)에 따라 기울기가 음수이면 x 값을 양의 방향으로 이동하고, 기울기가 양수이면 x 값을 음의 방향으로 이동한다. 경사상승법 현재 x 값의 미분값(기울기)에 따라 기울기가 음수이면 x 값을 음의 방향으로 이동하고, 기울기가 양수이면 x 값을 양의 방향으로 이동한다. 그래디언트 계산하기 sum of squares 최저점 ..
Data Science
2020. 9. 5. 02:21
728x90
반응형