* 인공지능(AI) > 머신러닝(ML) > 딥러닝(DL)
* 머신러닝
- 통계적 기법 활용하여 모델이 가볍다
- 딥러닝이 머신러닝에 속하는 개념이기 때문에 딥러닝을 하기 위해서는 머신러닝도 기초적으로 알아야 한다.
* 머신러닝의 종류
- 비지도 학습 : 차원축소(PCA, SVD, LDA, t-SNE, UMAP 등), 군집화(K-Means, Mean Shift, Gaussian Mixture Model, DBSCAN)
- 지도 학습 : 회귀, 분류, 앙상블 방법이 있음
- 강화 학습
# 지도학습 - 회귀(Regression)
- 연속형 데이터
- 단순 선형 회귀, 다중 선형 회귀, 다항 회귀
- 최적화 방법(loss function) : MSE(Mean Square Error) ~> 최소 제곱법(Least Square Method) ~> 경사 하강법(Gradient Descent)
# 지도학습 - 분류(Classification)
- 범주형 데이터
- 시그모이드 함수(이진분류), 소프트맥스 함수(다중 분류)
* 데이터는 (feature=attribute=x=특징=항목=독립변수)와 (label=y=종속변수)로 이루어져있다.
- y가 있으면 지도학습, 없으면 비지도 학습
* 파라미터는 우리가 구해야하는 가중치 값이고, 하이퍼파라미터는 사람이 직접 조절하고 입력해주어야 하는 값이다.
* 선형모델 : 선형결합식으로 표현이 가능한 모델 vs 비선형모델 : 지수함수처럼 선형결합식으로 표현이 불가능한 모델
* 순간변화율=미분=접선의기울기가 0(최솟값)이 되는 지점을 구하는 것이 머신러닝의 목표
* 자연상수 e = 2.718...