반응형 글쓰기 supervised2 [머신러닝] 지도학습 (Supervised Learning) - Linear Model (Regression 회귀) Linear Model (선형모델)입력 특성에 대한 선형 함수를 만들어 예측데이터를 가장 잘 나타낼 수 있는 회귀식을 모델링다양한 선형 모델 존재분류와 회귀에 모두 사용y= ax+ba : 기울기b : y 절편near Model (선형모델) 선형 회귀 함수𝒚 =𝒘𝟏𝒙𝟏 + 𝒘𝟐𝒙𝟐 + 𝒘𝟑𝒙𝟑 + ⋯ + 𝒘i𝒙i + bw : 가중치(weight), 계수(coefficient)b : 절편(intercept), 편향(bias)평균제곱오차(MSE : Mean Square Error)가 최소가 되는 w와 b를 찾는다 경사하강법 (Gradient Descent Algorithm): 비용함수의 기울기(경사)를 구하여, 기울기가 낮은 쪽으로 계속이동하며 값을 최적화시키는 방법 Le.. 2024. 11. 19. [머신러닝] 지도학습 (Supervised Learning) - Decision Tree 알고리즘 Decision Tree (결정트리)- Tree를 만들기 위해 "예/아니오" 질문을 반복하여 학습하는 의사결정 모델- 다양한 앙상블(ensemble)모델이 존재 (ex. RandomForest, GradientBoosting, XGBoost, LightGBM)- 분류와 회귀에 모두 사용 가능 결정트리새로운 데이터 포인트가 들어오면 해당하는 노드를 찾아, 분류라면 더 많은 클래스를 선택하고, 회귀라면 평균을 구한다지니불순도를 사용하여 데이터 분류의 기준을 잡는다타깃값이 하나로만 이루어진 리프노드를 순수노드(G=0)라고 한다모든 노드가 순수노드가 될 때까지 학습하면, 모델이 복잡해지고 과대적합된다 Gini Impurity (지니 불순도) : 데이터 집합의 불확실성 또는 순도를 수치화한 것 G값이 작을수록.. 2024. 11. 18. 이전 1 다음 반응형
