본문 바로가기

MACHINE | DEEP LEARNING/Data Preprocessing6

[AI] date 컬럼 오브젝트에서 datetime으로 변경하기, 요일 정보 컬럼으로 넣기 _판다스 to_datetime() 데이타프레임의 date 컬럼을 전세계가 알아보는 시간 Date ISO 포멧으로 바꾸는 방법 준비한 데이타프레임 chicago_df의 info chicago_df.info() >>> Index: 6017767 entries, 0 to 1456713 Data columns (total 8 columns): # Column Dtype --- ------ ----- 0 ID int64 1 Date object 2 Block object 3 Primary Type object 4 Description object 5 Location Description object 6 Arrest bool 7 Domestic bool dtypes: bool(2), int64(1), object(5) memory usage: 33.. 2024. 4. 24.
[AI] 데이터 불균형 맞추기 _SMOTE() 데이터 불균형 맞추기 필요한 라이브러리 임폴트 - 설치 안되어 있을 경우 pip install 검색 _ 구글에 pypi 검색해서 사이트에서 필요한 라이브러리 설치 명령어 찾기 from imblearn.over_sampling import SMOTE SMOTE() - 균형이 맞게 데이터 늘리거나 삭제하는 방법이 있는데, 일반적으로 늘리는 방법을 사용한다 - 늘리는 방법으로 코드를 작성해보자 # 변수에 저장하여 사용 sm = SMOTE(random_state=2) X, y = sm.fit_resample(X, y) 2024. 4. 16.
[AI] Training, Test용 데이터 나누기 _train_test_split() 트레이닝용과 테스트용 데이터 나누기 필요한 라이브러리 임폴트 from sklearn.model_selection import train_test_split train_test_split() - 데이터셋을 학습용과 테스트용으로 나눠준다 train_test_split(X, y, test_size= 0.2, random_state=3) # test_size= 0.2 테스트에 20% 사용하겠다 일반적으로 0.2 나 0.25 사용한다 # 각 변수에 저장(순서대로 입력) X_train, X_test, y_train, y_test = train_test_split(X, y, test_size= 0.2, random_state=3) 2024. 4. 16.
[AI] 데이터 정규화, 표준화 Feature Scaling 숫자 데이터 범위를 맞춰주는 피처스케일링 필요한 라이브러리 임폴트 from sklearn.preprocessing import StandardScaler, MinMaxScaler StandardScaler() : 데이터 표준화 # 변수에 저장해서 사용 >>> s_scaler_x = StandardScaler() >>> s_scaler_x.fit_transform(X) MinMaxScaler() : 데이터 정규화(값이 0과 1사이로 나옴) # 변수에 저장해서 사용 >>> m_scaler_x = MinMaxScaler() >>> m_scaler_x.fit_transform(X) 2024. 4. 16.
[AI] 데이터 레이블 인코딩, 원핫 인코딩 하기 _LabelEncoder(), OneHotEncoder() 문자열 데이터를 레이블 인코딩 또는 원핫 인코딩 하기 (LabelEncoder(), OneHotEncoder()) 데이터를 학습하기 위해서는 방정식에 대입되어야 하는데방정식은 수학식이므로 데이터는 모두 숫자로 되어 있어야 한다따라서 문자열 데이터를 숫자로 바꿔줘야 한다 필요한 라이브러리 임폴트import numpy as npimport matplotlib.pyplot as pltimport pandas as pdfrom sklearn.preprocessing import LabelEncoder, OneHotEncoderfrom sklearn.compose import ColumnTransformer LabelEncoder() : 문자열 데이터를 정렬해서 순서대로 0부터 시작하는 숫자로 바꿔준다  - 카테.. 2024. 4. 16.
[AI] 인공지능 만들기 전 데이터 처리하기 데이터 전처리에 필요한 라이브러리 import numpy as np import matplotlib.pyplot as plt import pandas as pd from imblearn.over_sampling import SMOTE from sklearn.preprocessing import StandardScaler, MinMaxScaler from sklearn.model_selection import train_test_split 1. pd 데이터 가져오기 2. 0 이나 다른 데이터로 채워져 있는 값 nan 으로 변환 3. 비어있는 데이터 확인(있으면 삭제하거나 채우기) 4. 예측할 컬럼을 y, 예측을 위해 필요한 데이터는 X로 지정 5. 데이터 범위 맞춰주기(피처스케일링) 6. 문자열 데이터가 .. 2024. 4. 16.

티스토리툴바