미래를 예측하는 데이터분석가

Machine Learning by professor Andrew Ng in Coursera Day 8 -The Problem of Overfitting 첫 번째 그림은 underfit or high bias된 경우이다. 모델이 데이터에 잘 적합하지 않으면 발생하는 문제이며 높은 편향이 발생하게 된다. 두 번째는 대체로 잘 적합해 좋은 모델이며 마지막으로 다항식이 매우 많은 모델은 과적합 즉 overfit or high variance를 일으킨다. 특히 과적합은 높은 분산을 가지게 되고 데이터는 적고 feature들이 많을 경우 많이 생긴다. 하지만 다른 데이터에 일반화시키지 못한다는 치명적인 단점이 존재해 과적합을 다루는 방법에 대해 소개한다. feature수를 줄이거나 정규화를 사용하는 방법이다. 정..

Machine Learning by professor Andrew Ng in Coursera Day 2 - What is Machine Learning? Cost Function 선형 회귀 문제에서 비용함수 즉, Cost Function은 이 그래프가 얼마나 잘 적합한지를 검증해주는 함수라고 할 수 있다. 통계에서는 이것을 MSE(Mean of Squared Error)라고 부른다. 나 역시 학부시절 그렇게 배워왔고 익숙했던 함수라 쉽게 이해할 수 있었다. 실제값에서 예측한 값의 차의 제곱을 평균한 값이며 2를 나눈 이유는 경사하강법의 계산에서 편의성이라고 한다. 여기서 함수 J는 비용함수이며 가장 최소가 되는 값이 최적의 값을 가지게 해준다. 최적의 값은 세타가 1이되면 즉 기울기가 1일 때 J의 값이..