ㅁ 개념 및 실천

ㅇ 정의:
데이터 분석 및 모델링 과정에서 데이터의 품질 향상과 예측 성능 개선을 위해 특성을 선택, 생성, 변환하는 과정.

ㅇ 특징:
– 데이터의 특성을 이해하고 도메인 지식을 활용하여 새로운 특성을 생성함.
– 데이터의 크기와 복잡성을 줄여 모델 학습을 효율적으로 만듦.
– 모델 성능을 높이기 위해 특성 선택과 제거 작업을 포함함.

ㅇ 적합한 경우:
– 데이터에 노이즈가 많거나 불필요한 특성이 포함된 경우.
– 모델 성능 개선이 필요한 경우.
– 도메인 지식을 활용하여 데이터의 의미를 더 잘 반영하고자 할 때.

ㅇ 시험 함정:
– 특성 선택 과정에서 중요한 정보를 제거할 가능성.
– 과적합을 유발할 수 있는 특성 생성.
– 도메인 지식을 활용하지 않고 자동화된 방법에만 의존하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Feature Engineering은 데이터의 품질을 높이고 모델 성능을 향상시키는 과정이다. (O)
2. Feature Engineering은 데이터의 크기를 증가시키는 작업이다. (X)
3. Feature Engineering은 도메인 지식을 활용하지 않아도 효과적이다. (X)

================================

1. Feature Engineering

ㅇ 정의:
데이터 분석 및 모델링을 위해 데이터를 변환하고 새로운 특성을 생성하여 모델 성능을 개선하는 과정.

ㅇ 특징:
– 데이터의 특성을 분석하여 의미 있는 정보를 추출함.
– 특성 선택, 생성, 변환을 포함함.
– 데이터의 품질을 높이고 예측 성능을 향상시킴.

ㅇ 적합한 경우:
– 데이터셋이 복잡하고 특성 간 상관관계가 높은 경우.
– 데이터의 크기를 줄이고 모델 학습을 최적화해야 하는 경우.
– 도메인 지식을 활용하여 중요한 특성을 강조하고자 할 때.

ㅇ 시험 함정:
– 불필요한 특성을 제거하지 않으면 모델 성능이 저하될 수 있음.
– 과적합 위험이 있는 특성을 생성할 경우.
– 데이터 변환 과정에서 원본 데이터의 의미를 왜곡할 가능성.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Feature Engineering은 특성 변환과 선택을 포함한다. (O)
2. Feature Engineering은 데이터의 의미를 왜곡하는 과정이다. (X)
3. Feature Engineering은 모든 특성을 제거하는 과정이다. (X)

ㅁ 추가 학습 내용

Feature Engineering의 자동화 도구와 기술에 대해 학습하기 위해 다음 내용을 정리하였습니다:

1. PCA(주성분 분석):
PCA는 고차원의 데이터를 저차원으로 축소하는 차원 축소 기법으로, 데이터의 분산을 최대한 보존하면서 중요한 주성분만을 추출합니다. 이를 통해 데이터의 복잡성을 줄이고, 모델의 학습 속도를 높이며, 과적합을 방지할 수 있습니다. PCA는 특히 데이터의 상관관계가 높은 경우 유용하게 사용됩니다.

2. Lasso Regression을 통한 특성 선택:
Lasso Regression은 정규화 기법 중 하나로, L1 규제를 사용하여 불필요한 특성의 가중치를 0으로 만들어 특성 선택을 자동화합니다. 이를 통해 중요한 특성만 남기고, 모델의 복잡성을 줄이며, 해석 가능성을 높일 수 있습니다. Lasso Regression은 고차원 데이터에서 유용하며, 과적합을 방지하는 데 도움을 줍니다.

3. AutoML 도구를 활용한 자동화된 Feature Engineering:
AutoML 도구는 머신러닝 모델 개발 프로세스를 자동화하는 데 도움을 주며, Feature Engineering 단계도 포함됩니다. 대표적인 AutoML 도구로는 Google AutoML, H2O.ai, DataRobot 등이 있습니다. 이러한 도구는 데이터 전처리, 특성 생성, 특성 선택, 모델 튜닝 등을 자동으로 수행하여 효율적으로 모델을 개발할 수 있도록 지원합니다.

4. 도메인 지식과 머신러닝 알고리즘의 상호작용을 통한 특성 생성:
도메인 지식은 Feature Engineering 과정에서 중요한 역할을 합니다. 도메인 전문가의 지식을 바탕으로 유의미한 특성을 생성하거나, 기존 데이터를 변환하여 모델 성능을 향상시킬 수 있습니다. 예를 들어, 금융 데이터에서 고객의 신용 점수와 대출 금액의 비율을 계산하거나, 시간 데이터를 활용하여 요일이나 계절과 같은 새로운 특성을 생성하는 사례가 있습니다. 이러한 과정은 데이터의 맥락을 이해하고, 머신러닝 알고리즘이 데이터를 더 잘 학습할 수 있도록 돕습니다.

위의 내용을 바탕으로 PCA, Lasso Regression, AutoML 도구, 도메인 지식을 활용한 특성 생성 사례를 구체적으로 학습하면, 시험 대비에 큰 도움이 될 것입니다.