Data Scientist 나가니 홈

Boosting AdaBoost (Adaptive Boosting) GBM Gradient boosting machine

순차데이터 Sequence data 시간특성이 있는 데이터 Hidden Markov Models Markov Model state가 변화하는 횟수를 matrix에 누적하여 적고 row sum으로 나누어 확률로 표현 Hidden Markov Model 같은 시간에 발생한 두 종류의 state squence 각각의 특성과 그들의 관계를 이용해 모델링 HMM 적용 예시들 HMM 파라미터 λ = {A, B, π} : 3개의 파라미터 상태전이확률행렬, 방출확률행렬, 초기상태확률행렬 HMM로 해결할 수 있는 문제 Evaluation Evaluation은 forward 또는 backward를 사용 Learning할때는 backward사용 Decoding은 Viterbi Decoding Learning HMM 응용 예시

불균형 데이터의 문제 Undersampling Undersampling 정리 Oversampling ADASYN 에이다신 Oversampling 정리

군집화 Clustering K-means 군집화 수행 1. 2개 중심을 임의로 생성 2. 생성된 중심을 기준으로 모든 관측치에 군집할당 3. 각 군집의 중심을 다시 계산 4. 중심이 변하지 않을 때까지 반복 K-means 문제점 최적의 군집수

PCA 고차원 데이터는 불필요한 변수가 있을 수 있어 비효율적이다. 차원축소 PCA 개요 주성분 추출 예제) PCA 알고리즘 PCA의 한계

Support Vector Machine 고차원 분류에 높은 성능 train error가 줄면 test error도 줄어드는 generalization ability가 좋음 margin을 최대화하면 test error는 최소화된다는 것 Margin Margin을 w-norm으로 표현 Lagrangian Formulation 목적식과 제약식을 합쳐서 표현 Hard Margin SVM : 선형으로 분리하는 SVM , Linearly Separable case Soft Margin SVM : 선형으로 분리할 수 없는 SVM , Linearly Nonseparable case, 약간의 에러를 허용 Soft Margin SVM Lagrangian Fomulation Lagrangian Dual Kernel Met..