머신러닝은 환경에 따라 같은 코드여도 다른 값이 나오나요??

[L-cloud]

해결하고자 하는 문제

동일한 코드를 노트북에서 실행시켰을 때와 google colab에서 실행시켰을 때 값이 다르게
나옵니다...
colab에서는 15의 근사치가 나오고 '[[7.326043]]이 노트북에서 나오네요..
음 왜 그런건가요??

코드 혹은 오류

   
import tensorflow as tf
import pandas as pd
 

파일경로 = 'https://raw.githubusercontent.com/blackdew/tensorflow1/master/csv/lemonade.csv'
레모네이드 = pd.read_csv(파일경로)
레모네이드.head()

독립 = 레모네이드[['온도']]
종속 = 레모네이드[['판매량']]
print(독립.shape, 종속.shape)
 

X = tf.keras.layers.Input(shape=[1])
Y = tf.keras.layers.Dense(1)(X)
model = tf.keras.models.Model(X, Y)
model.compile(loss='mse')
 

model.fit(독립, 종속, epochs=2000, verbose=0)

 

print(model.predict([[15]]))

환경

구글 colab과 visual studio code

시도해본 방법

동일한 코드를 두 환경에서 실행

[dojinyou]

결론부터 말씀드리면 W(weight)의 초기값 차이라고 생각합니다. tf.keras.layers.Dense의 공식문서(https://www.tensorflow.org/api_docs/python/tf/keras/layers/Dense)에서 parameter를 확인해보시면 kernel_initializer='glorot_uniform'라는 것을 확인할 수 있는데 이것이 W를 초기화시키는 함수인 것 같습니다.
이때 사용되는 glorot_uniform이라는 것을 찾아보니 균일 분포에서 값을 초기화하는 것이라고 되어 있습니다.
아무래도 분포 속에서 값을 초기화하다보니 초기값에서 차이가 발생하고 이것이 학습에 차이를 발생한 것 아닐까 싶습니다.

[jiyongjung0]

한 가지 더 첨언하고 싶은 부분은, 모든 머신러닝이 다 값이 바뀌는 것은 아닙니다. 머신러닝에도 수많은 방법이 있고, 이 중에 사용하신 DNN은 초기 값으로 random 값을 적절히 사용합니다. (사실 이것이 딥러닝 혁명의 중요한 요인 중 하나였다고도 합니다.) 방법론에 따라서 다른 랜덤 요소를 사용하는 것들도 있습니다.

[RayleighKim]

추가로, random state, random seed등을 고정하는 방법도 찾아보시면 더 도움이 될 것 같습니다!