1. 선형회귀란?
선형회귀는 독립변수 X와 종속변수 Y 사이의 관계를 직선으로 표현하는 방법이다.
Y = wX + b- X: 독립변수 / 원인 변수 / 설명 변수
- Y: 종속변수 / 결과 변수
- w: 가중치, 기울기
- b: 편향, 절편
즉, X값이 주어졌을 때 Y값을 예측하는 모델이다.
2. 좋은 직선을 찾는 기준
데이터 점들을 아무 직선으로 연결하는 것이 아니라, 실제값과 예측값의 차이가 가장 작은 직선을 찾아야 한다.
Error = 실제값 - 예측값하지만 오차는 양수와 음수가 섞이기 때문에 그냥 더하면 서로 상쇄될 수 있다.
그래서 오차를 제곱해서 모두 양수로 만든다.
오차 제곱 = Error²3. 에러를 줄이는 과정
선형회귀의 핵심은 결국 이것이다.
예측값과 실제값의 차이인 Error를 최소화하는 직선을 찾는 것데이터가 많아지면 오차의 총합도 자연스럽게 커질 수 있기 때문에, 전체 오차를 데이터 개수로 나누어 평균적인 오차를 계산한다.
이 개념이 나중에 MSE, RMSE 같은 회귀 평가 지표로 연결된다.
예시 해석
자료에서는 몸무게와 키 데이터를 이용해 선형회귀식을 만들면 다음과 같은 식이 나온다고 설명했다.
y = 0.86x + 109.37이 식은 다음처럼 해석할 수 있다.
몸무게가 1kg 증가할 때마다 키는 약 0.86cm 증가하는 경향이 있다.여기서 중요한 점은 이 식이 모든 데이터를 완벽하게 맞추는 것이 아니라, 전체 데이터를 가장 잘 설명하는 직선이라는 것이다.
오늘의 인사이트
선형회귀는 단순히 직선을 긋는 것이 아니라, 오차를 최소화하는 방향으로 가장 적절한 관계식을 찾는 과정이다.
머신러닝 관점에서는 w와 b를 잘 찾는 것이 핵심이고, 이 가중치를 찾는 과정이 이후 머신러닝 학습의 중요한 원리로 이어진다.
한 줄 정리
선형회귀는 X와 Y의 관계를 직선으로 표현하고, 실제값과 예측값의 오차가 가장 작아지는 직선을 찾는 방법이다.