파이썬 기반의 AI 프로그래밍 04-2
- 1 -
4. 지도 학습 알고리즘 Ⅲ 2강. 지도 학습 알고리즘(7)
학습내용 - 배깅
- 엑스트라 트리 - 에이다부스트
학습목표
- 앙상블 알고리즘인 배깅을 설명할 수 있다.
- 엑스트라 트리를 설명할 수 있다.
- 에이다부스트의 개념을 알고, scikit-learn에서 제공하는 앙상블 알고리즘을 머 신러닝에 적용할 수 있다.
1. 배깅(Bagging) 1) 개념
가. Bootstrap agregating
나. 중복을 허용한 랜덤 샘플링으로 만든 훈련세트 사용, 분류기를 각기 다르게 학 습
다. predict_proba() 지원 라. 확률값 평균하여 예측 수행 2) 매개변수
가. max_samples
- 부트스트랩 샘플 크기 지정 나. 랜덤 포레스트
- DecisionTreeClassifier (splitter = ‘best’ 사용 고정) 다. 배깅
- splitter=‘random’
- 무작위 분할 후보 노드 중 최선의 분할 결정 2. 엑스트라 트리
1) 개념
파이썬 기반의 AI 프로그래밍 04-2
- 2 - 가. 후보 특성을 무작위로 분할 후 최적의 분할 검토
나. DecisionTreeClassifier(splitter=’random’사용) 다. 부트스트랩 샘플링 미적용
라. 각 트리가 만든 확률값 평균으로 예측 3. 에이다부스트
1) 개념
가. Adaptive Boosting 나. 약한 학습기 사용
다. 이전 모델이 잘못 분류한 샘플에 가중치를 높여 다음 모델 학습 라. 훈련된 각 모델은 성능에 따라 가중치 부여
마. 예측 모델이 예측한 레이블 기준, 가중치 합산 후 가장 높은 값의 레이블 선택 2) 매개변수
파이썬 기반의 AI 프로그래밍 04-2
- 3 - 평가하기
1. 엑스트라 트리 앙상블은 후보 특성을 무작위로 통합한 다음 최적의 통합을 찾는 모델이다.
O X
- 정답 : X
해설 : 엑스트라 트리 앙상블은 후보 특성을 무작위로 분할한 다음 최적의 분할 을 찾는 모델입니다.
2. 배깅은 중복을 허용하지 않는 랜덤 샘플링으로 만든 훈련 세트를 사용하여 분류 기를 각기 다르게 학습시킨다.
O X
- 정답 : X
해설 : 배깅은 중복을 허용한 랜덤 샘플링으로 만든 훈련 세트를 사용하여 분류 기를 각기 다르게 학습시킵니다.
학습정리 1. 배깅
- Bootstrap aggregating - 확률값 평균하여 예측 수행 2. 엑스트라 트리
– 후보 특성을 무작위로 분할 후 최적의 분할 검토 – 각 트리가 만든 확률값 평균으로 예측
3. 에이다부스트
– 이전 모델이 잘못 분류한 샘플에 가중치를 높여 다음 모델 학습 – 훈련된 각 모델은 성능에 따라 가중치 부여
