AI 개발 공부 공간

AI, 머신러닝, 딥러닝, Python & PyTorch, 실전 프로젝트

전체 글 213

범주형 데이터 이진분류 경진대회

https://www.kaggle.com/competitions/cat-in-the-dat Categorical Feature Encoding ChallengeBinary classification, with every feature a categoricalwww.kaggle.com캐글의 범주형 데이터 기반 이진분류 경진대회를 대상으로 EDA → Baseline → 성능 개선의 단계적 프로세스를 확립하겠습니다. 1. EDAtrain.head().T submission.head() ※ 피처 요약표 ※ 타겟값 분포 ※ 피처 분포도 2. BaselineBaseline 단계에서는 기본적인 피처 엔지니어링, 모델 학습, 성능 검증으로 구성된 구조를 설계하여 전체 프로세스의 기본 뼈대를 구축합니다.import..

흉부 엑스선 기반 폐렴 진단_성능 개선

이제 Baseline 모델을 기반으로 일부 구조를 개선하여 본격적인 성능 향상 단계로 나아가겠습니다.구체적으로는 EfficientNet-B1, EfficientNet-B2, EfficientNet-B3를 활용한 앙상블 전략을 적용하고, 학습 에폭 수를 늘리며, 스케줄러와 옵티마이저를 변경하여 예측 성능을 단계적으로 개선하고자 합니다. 1. 모델 생성 (3개 모델)models_list =[] # 모델 저장용 리스트from efficientnet_pytorch import EfficientNet# 모델 생성efficientnet_b1 = EfficientNet.from_pretrained('efficientnet-b1', num_classes=2) efficientnet_b2 = EfficientNet.fr..

흉부 엑스선 기반 폐렴 진단_Baseline

이제 이전단계의 EDA를 기반으로 Baseline 코드를 만들겠습니다.프로세스는 아래와 같습니다.1. 시드 값 고정 및 GPU 장비 설정2. 데이터 준비3. 이미지 변환기 정의4. 데이터셋 및 데이터 로더 생성5. 모델 생성6. 손실 함수와 옵티마이저 설정7. 훈련 함수 작성8. 훈련 및 성능 검증9. 예측 및 평가 결과 1. 시드 값 고정 및 GPU 장비 설정import torch # 파이토치 import randomimport numpy as npimport os# 시드값 고정seed = 50os.environ['PYTHONHASHSEED'] = str(seed)random.seed(seed)np.random.seed(seed)torch.manual_seed(seed)torch.cuda.manual_..

흉부 엑스선 기반 폐렴 진단_EDA

https://www.kaggle.com/datasets/paultimothymooney/chest-xray-pneumonia Chest X-Ray Images (Pneumonia)5,863 images, 2 categorieswww.kaggle.com이번에는 캐글의 흉부 엑스선 기반 폐렴 진단 데이터셋을 활용하여, 마지막으로 딥러닝 문제 해결 프로세스를 정립해보겠습니다.본 프로젝트는 흉부 엑스선(Chest X-ray) 이미지를 바탕으로 해당 환자가 폐렴인지 아닌지를 판별하는 딥러닝 모델을 개발하는 과정입니다. 1. 데이터 확인 2. 이미지 확인1) 정상 흉부 엑스선 2) 폐렴 흉부 엑스선 3. EDA 결과우선, 각 이미지의 해상도가 서로 상이하기 때문에 모델 학습을 위해 이미지 크기를 일정하게 통일..

병든 잎사귀 식별_성능 개선

Baseline 을 기반으로 몇가지 기법을 추가하여 성능을 개선하는 단계입니다.1. 에폭늘리기2. 스케줄러 추가3. TTA(테스트 단계 데이터 증강) 기법4. 레이블 스무딩 적용 1,2. 에폭늘리기 및 스케줄러 추가from transformers import get_cosine_schedule_with_warmupepochs = 39 # 총 에폭# 스케줄러 생성scheduler = get_cosine_schedule_with_warmup(optimizer, num_warmup_steps=len(loader_train)*3, num_training_s..

병든 잎사귀 식별_Baseline

베이스라인모델은 아래와 같은 프로세스로 만듭니다.1. 시드값 고정 및 GPU 장비 설정 2. 데이터 준비2.1 훈련/검증 데이터 분리2.2 데이터셋 클래스 정의2.3 이미지 변환기 정의2.4 데이터셋 생성2.5 데이터 로더 생성 3. 모델 생성 4. 모델훈련 및 성능 검증4.1 손실 함수와 옵티마이저 설정4.2 훈련 및 성능 검증 5. 예측 및 제출 1. 시드값 고정 및 GPU 장비 설정import torch # 파이토치 import randomimport numpy as npimport os# 시드값 고정seed = 50os.environ['PYTHONHASHSEED'] = str(seed)random.seed(seed)np.random.seed(seed)torch.manual_seed(seed)to..

병든 잎사귀 식별_EDA

https://www.kaggle.com/c/plant-pathology-2020-fgvc7 Plant Pathology 2020 - FGVC7Identify the category of foliar diseases in apple treeswww.kaggle.com이번에 분석할 대회는 캐글의 병든 잎사귀 식별 경진대회이고 잎사귀 사진을 보고 잎사귀가 어떤 질병에 걸렸는지 식별하는 다중분류 문제입니다. 1. 데이터 2. 타깃값 분포 : 타깃값들의 비율 차이가 크기 때문에 타깃값 비율에 맞게 나눠야 하는게 중요합니다. 3. 이미지 데이터 간단하게 데이터를 확인해보았고 이제 베이스라인 모델을 만들어보겠습니다.

자전거 대여 수요 예측_성능 개선

성능 개선 단계에서는 초기 베이스라인 모델을 기반으로, 추가적인 피처 엔지니어링을 수행하거나 모델 구조를 변경하고, 하이퍼파라미터 최적화를 적용함으로써 예측 성능을 점진적으로 향상시킵니다. 랜덤포레스트 모델로 그리드 서치를 수행하여 하이퍼파라미터를 최적화 하는 방법으로 성능을 개선하겠습니다.from sklearn.ensemble import RandomForestRegressor# 모델 생성randomforest_model = RandomForestRegressor()# 그리드서치 객체 생성rf_params = {'random_state':[42], 'n_estimators':[100, 120, 140]} # ①gridsearch_random_forest_model = GridSearchCV(esti..

자전거 대여 수요 예측_Baseline

이제 EDA 결과를 바탕으로 Baseline 코드를 구성하겠습니다.Baseline은 기본적인 모델 구조를 중심으로 설계하고, 이후 다양한 모델로 교체하거나 하이퍼파라미터를 조정해가며 성능을 점진적으로 개선하는 방향으로 프로세스를 확립하고자 합니다. 1. 피처 엔지니어링 EDA를 바탕으로 피처엔지니어링을 실시합니다.이상치를 제거하고 파생피처를 생성하고 필요없는 피처들은 제거합니다. # 훈련 데이터에서 weather가 4가 아닌 데이터만 추출train = train[train['weather'] != 4]from datetime import datetime# 날짜 피처 생성all_data['date'] = all_data['datetime'].apply(lambda x: x.split()[0])# 연도 피..

자전거 대여 수요 예측_EDA

1. 개요이제 머신러닝 경진대회에서 활용할 문제 해결 프로세스를 정립하고자 합니다.우선, Kaggle Bike Sharing Demand Competition을 기준으로 프로세스를 구성하겠습니다. 대회 개요워싱턴 D.C의 자전거 무인 대여 시스템의 과거 이용 기록을 기반으로, 향후 자전거 대여 수요를 예측하는 대회입니다. 2. EDA (탐색적 데이터 분석)데이터의 구조 및 특성을 파악하기 위해 데이터 확인, 시각화, 분포 분석 등을 수행합니다.이를 통해 주요 피처를 분석에 적합한 형태로 가공하고, 모델링에 활용할 수 있도록 전처리 방향을 설정합니다.본 대회에서의 EDA 기반 분석 전략은 다음과 같습니다. 1) 타깃값 변환 : 분포도 확인 결과 타깃값인 count가 0 근처로 치우쳐 있으므로 로그변환하여 ..