2. 지도 학습 알고리즘 Ⅰ 3강. 지도 학습 알고리즘(3)

파이썬 기반의 AI 프로그래밍 02-3

2. 지도 학습 알고리즘 Ⅰ 3강. 지도 학습 알고리즘(3)

학습내용

- 선형 모델의 개념

- 선형 회귀, 리지 회귀, 라소

학습목표

- 회귀의 선형 모델의 개념을 설명할 수 있다.

- 선형 회귀, 리지 회귀, 라소를 구분할 수 있다.

1. 선형 모델의 개념

-

[0]

��

+1

-

, 

�

2. 선형 회귀, 리지 회귀, 라소 1) 선형 회귀(최소제곱법)

가. 매개 변수 X → 장점

나. 복잡도 제어 방법 X → 단점

다. 예측과 훈련 세트의 타킷,  사이의 평균 제곱 오차를 최소화하는 파라미터  와  검색

파이썬 기반의 AI 프로그래밍 02-3

2) 리지 회귀

가. 예측 함수 사용 나. 가중치()

- 훈련 데이터 예측

- 추가 제약 조건 만족도 상승 목적

- 가중치가 0에 가깝도록 만드는 것이 효율적 → 규제 다. 규제(Regularization)

- 과대적합이 되지 않도록 모델을 강제로 제한 - 리지 회귀 : L2 규제

라. linear_model.Ridge에 구현 마. alpha 매개변수

- 성능 대비 모델 단순화 지정 - 데이터셋에 의존

3) 라소

가. Ridge의 단점을 보완하는 대안 방식

파이썬 기반의 AI 프로그래밍 02-3

평가하기

1. 선형 회귀는 매개변수를 이용하여 복잡도를 제어할 수 있다.

O X

- 정답 : X

해설 : 선형 회귀는 매개변수가 없는 것이 장점이며, 이로 인해 복잡도를 제어할 방법이 없다는 것이 단점입니다.

2. Ridge는 모델을 단순하게 해주고 훈련 세트에 대한 성능 사이를 절충할 수 있 는 방법을 제공한다.

O X

- 정답 : O

해설 : Ridge는 훈련 세트에 대한 성능 사이를 절충하기 위해 alpha 매개변수를 이용합니다.

학습정리

1. 선형 모델의 개념

- 회귀의 선형 모델을 위한 일반화된 예측 함수 2. 선형 회귀, 리지 회귀, 라소

- 선형 회귀(최소제곱법) : 가장 간단하고 오래된 회귀용 선형 알고리즘, 매개변수 가 없어 복잡도 제어 어려움

- 리지 회귀 : 모델의 단순화로 훈련 세트에 대한 성능 사이 절충 방법 제공 - 라소 : Ridge의 단점을 보완하는 대안 방식, 특성 기반

다음 주 예고

“3. 지도 학습 알고리즘 Ⅱ” 에 대해 학습하겠습니다.