첫번째 딥러닝 - 레모네이드 판매 예측 손실관련 질문

[minsoo02]

안녕하세요.

첫번째 딥러닝 - 레모네이드 판매 예측 강의 내용 중 질문입니다.

모델을 학습 시키는 과거 데이터가 5개(수업에서 사용한 독립변수 갯수)로 정해져있는데

반복 횟수를 늘린다고 손실이 0에 가까워지는 원리가 궁금합니다.

[RayleighKim]

반복 횟수가, 학습횟수를 의미하는 것일까요?

뉴럴넷 알고리즘들은 한번에 짠! 하고 학습이 되질 않습니다.
데이터를 이용해 loss를 계산하고, 천천히 천천히 loss를 줄이는 방향으로 가중치들을 업데이트 합니다.

학습횟수를 늘린다는 말은 업데이트 횟수를 늘린다는 말이니.. loss가 더 줄어드는 것을 관찰할 수 있습니다.

덧1. 항상 그렇지는 않을 겁니다.
덧2. loss가 0으로 못갈 수도 있어요.

[minsoo02]

답변 감사합니다.

네! 학습횟수를 반복횟수로 표현했습니다.

업데이트(학습)를 할때, 이전에 사용했던 과거 데이터가 아닌 새로운 데이터를 사용하는 것도 아닌데(계속 같은 데이터를 가지고 학습을 시키는데)
학습을 할때마다 모델의 성능이 좋아지는(loss가 줄어드는)것이 신기해서 질문드렸습니다.

[RayleighKim]

넷. 한번 업데이트마다 소심하게 업데이트하는게 핵심입니다!

같은데이터를 사용하더라도, 그 데이터에 한번에 팍 하고 적응을 하는게 아니라.. 천천히. 천천히. 적응합니다

[minsoo02]

설명 감사합니다~^^