now is better than never

2. 최적화 (Optimization) Gradient Descent First-order iterative optimization algorithm for finding a local minimum of a differentiable function. 구하고자 하는 값으로 편미분을 반복적으로 수행 Important Concepts in Optimization Generalization Under-fitting vs. over-fitting Cross validation Bias-variance tradeoff Bootstrapping Bagging and boosting 1) Generalization How well the learned model will behave on unseen data. t..

2) 뉴럴 네트워크 & MLP (Multi-Layer Perception) - Neural Networks Neural networks are function approximators that stack affine transformations followed by nonlinear transformations. 행렬으로 연산해서 내가 정의한 값으로 근사하는 모델, 비선형 연산이 반복적으로 일어나는 모델 이미지 (tensor) -> 라벨 (vector) = 함수를 모방 - Linear Neural Networks w, b 를 구하기 위해 back propagation loss 를 최소화하는 w, b 의 방향을 미분으로 찾음 stepsize 가 너무 크면 발산, 작으면 학습이 안 됨 One way of i..

https://www.boostcourse.org/ai111/ 딥러닝 기초 다지기 부스트코스 무료 강의 www.boostcourse.org 1. 딥러닝 기초 1) 딥러닝 기본 용어 - Key Components of Deep Learning The Data that the model can learn from The Model how to transform the data 이미지 -> 라벨 The Loss function that quantifies the badness of the model The Algorithm to adjust the parameters to minimize the loss - Data Data depend on the type of the problem to solve. 데이터..

6. 하이퍼 파라미터 튜닝과 앙상블 1) 하이퍼 파라미터 튜닝 - 하이퍼 파라미터 A hyperparameter is a parameter whose value is used to control the learning process. By contrast, the values of other parameters (typically node weights) are learned 학습 과정에서 조절하는 파라미터 값 모델이 학습하기 전에 사람이 설정해줘야 하는 파라미터 - 파라미터 학습 과정에서 배워나가는 값 - 하이퍼 파라미터 튜닝 Choosing a set of optimal hyperparameters for a learning algorithm 하이퍼 파라미터를 최적화하는 과정 - 하이퍼 파라미터 튜닝..

1) 피처 중요도 - Feature Importance 타겟 변수를 예측하는데 얼마나 유용한 지에 따라 피처에 점수를 할당해서 중요도를 측정하는 방법 - Model-specific VS Model-agnostic 머신러닝 모델 자체에서 피처 중요도 계산이 가능하다면 Model-specific 모델에서 제공하는 기능에 의존하지 않고 모델을 학습한 후에 적용되는 피처 중요도 계산은 Model-agnostic 2) Boosting Tree 피처 중요도 Model-specific Method - LightBGM 피처 중요도 Training 된 LightBGM 모델 클래스에 feature_importance(importance_type) 함수로 피처 중요도 계산 기능 제공 인자의 importance_type 값에..

https://www.boostcourse.org/ai224/joinLectures/361819?isDesc=false 쇼핑데이터를 활용한 머신러닝 부스트코스 무료 강의 www.boostcourse.org 1. 피처 엔지니어링 원본 데이터로부터 도메인 지식 등을 바탕으로 문제를 해결하는데 도움이 되는 Feature 를 생성 / 변환하고 이를 머신러닝 모델에 적합한 형식으로 변환하는 작업 딥러닝이 아닌 머신러닝에서 모델의 성능을 높이는 가장 핵심적인 단계 양질의 데이터라면 성능의 80 - 90% 는 피처 엔지니어링에 의해 결정됨 나머지는 하이퍼 파라미터 튜닝 등 딥러닝 : end-to-end learning, 딥러닝 모델의 구조를 통해 데이터의 feature 를 모델이 알아서 찾아냄 머신러닝 : 사람이 직..