[pytorch] Early Stopping 조기종료 구현 및 적용
조기 종료(Early Stopping)는 학습시 일정기간(여기서 기간은 보통 N번의 Epoch을 기준으로 합니다)동안 Loss 나 Score 기준으로 개선이 일어나지 않으면 학습을 조기에 종료해 주는 기능입니다. 만약, 20번의 Epoch 동안 학습이 진행한다고 가정했을 때, 아래...
태그
- 딥러닝 40
- deep learning 39
- python 37
- tensorflow 34
- 튜토리얼 31
- pytorch 30
- machine learning 29
- tutorial 29
- 파이썬 28
- 머신러닝 27
- 텐서플로 26
- 파이토치 22
- pandas 21
- 데이터 분석 20
- 강의 20
- scikit-learn 19
- 판다스 19
- torch 17
- 실습 16
- 이미지 분류 13
- data science 13
- 파이썬 튜토리얼 11
- 파이썬 강의 11
- python 강의 11
- 파이썬 코딩 11
- 코딩 강의 11
- kaggle 9
- 데이터프레임 9
- numpy 8
- google colab 8
- 리눅스 8
- linux 8
- 시각화 8
- visualization 8
- 캐글 8
- 자연어처리 8
- 판다스 자료구조 8
- 판다스 튜토리얼 8
- 파이썬 데이터 분석 8
- 구글 코랩 7
- keras 7
- 전처리 6
- cnn 6
- aws 6
- matplotlib 6
- 책 추천 6
- lstm 6
- colab 6
- 가상환경 5
- anaconda 5
- jupyter notebook 5
- ubuntu 5
- cudnn 5
- 케라스 5
- 도커 5
- docker 5
- dataframe 5
- 한글 5
- 합성곱신경망 4
- 아마존 4
- dataset 4
- 패키지 4
- git 4
- cuda 4
- 앙상블 4
- ensemble 4
- 비전공자 4
- 취업 4
- 텐서플로 자격증 4
- pyplot 4
- 머신러닝 책 추천 4
- api 4
- 설치 4
- image augmentation 4
- chatgpt 4
- 아나콘다 3
- linear regression 3
- convolution neural network 3
- amazon 3
- 원격접속 3
- mnist 3
- 데이터셋 3
- 통계 3
- seaborn 3
- datasets 3
- classification 3
- 정형데이터 3
- 크롤링 3
- crawling 3
- gpu 3
- random forest 3
- 하이퍼파라미터 튜닝 3
- csv 3
- 콜백 3
- callback 3
- 학습률 3
- learning rate 3
- 인공지능 공부법 3
- 데이터 분석 공부법 3
- 인공지능 3
- 머신러닝 공부법 3
- 강의 추천 3
- 입문 3
- 학습법 3
- 취준 3
- 이직 3
- 주가예측 3
- 삼성전자 3
- 시계열 3
- 딥러닝 자격증 3
- pycharm 3
- rnn 3
- 경사하강법 3
- gradient descent 3
- seq2seq 3
- 데이터 분석 책 추천 3
- 미분 3
- 캐글 노트북 3
- 도커 사용법 3
- 도커 설치 3
- 배포 3
- mecab 3
- lgbm 3
- lightgbm 3
- 딥러닝 책 추천 3
- 형태소 분석기 3
- konlpy 3
- 요약 3
- dataloader 3
- 학습 3
- 검증 3
- 평가 3
- openai 3
- 지킬블로그 2
- 마크다운 2
- pip 2
- one hot encoding 2
- 원핫인코딩 2
- pre-processing 2
- package 2
- 내장 데이터셋 2
- iris 2
- 크롤러 2
- nvidia 2
- gpu 설정 2
- hyperparameter 2
- decision tree 2
- built in function 2
- lambda 2
- filter 2
- labelencoder 2
- github pages 2
- 조기종료 2
- 한글폰트 2
- 패스트캠퍼스 2
- google tensorflow developers certificate 2
- tdc 2
- 딥러닝 자격증 취득 2
- image classification 2
- nlp 2
- 그래프 2
- 차트 2
- 텐서보드 2
- tensorboard 2
- 전이학습 2
- transfer learning 2
- fillna 2
- 파이참 2
- 선형회귀 2
- attention 2
- AI주가 2
- 금융 2
- 상속 2
- pandas tutorial 2
- sort 2
- 타입 변환 2
- 튜닝 2
- 자료구조 2
- 딥러닝 도커 2
- 실행 2
- xgboost 2
- groupby 2
- 피벗테이블 2
- 판다스 데이터 분석 2
- 인공지능 책 2
- 테디노트 책 2
- 테디노트 실험실 2
- 캐글 대회 2
- eda 2
- 커널 필사 2
- bert 2
- tokenizer 2
- 자동화 2
- tensor 2
- 텐서 2
- copying 2
- sharing 2
- imagefolder 2
- fashion mnist 2
- 자동미분 2
- autograd 2
- 회귀 2
- 회귀 예측 2
- 보스톤 주택가격 2
- custom dataset 2
- cats and dogs 2
- image transforms 2
- ilsvrc 2
- 논문 2
- gpt3 2
- airtable 2
- gru 2
- synology 1
- 시놀로지 1
- 나스 1
- Nas 1
- typone mars pro 1
- 타이폰 마스 프로 1
- 맥용 기계식 키보드 1
- jekyll 1
- markdown 1
- android 1
- asynctask 1
- 비동기 1
- mysql 1
- mysqlclient 1
- 선형회귀 알고리즘 1
- 보스톤 주택가격 예측 1
- softmax 1
- 소프트맥스 1
- mnist 손글씨 1
- xor 1
- neural network 1
- virtual env 1
- 파이썬 가상환경 1
- conv2d 1
- cond2d 계산 1
- 인스턴스 1
- 네임서버 1
- 가비아 1
- cafe24 1
- 도메인 설정 1
- django 1
- ec2 인스턴스 1
- visual studio code 1
- ftp simple 1
- aws 원격작업 1
- aws 인스턴스 1
- 크론탭 1
- crontab 1
- virtualenv 1
- tmux 1
- zsh 1
- oh my zsh 1
- zsh 스타일링 1
- kmeans clustering 1
- 비지도학습 1
- 클러스터링 1
- 손글씨 인식 1
- remote 1
- ec2 instance 1
- flask 1
- nginx 1
- 10 minutes to pandas 1
- 부동산 데이터 분석 1
- git alias 1
- git global config 1
- git diff 1
- p4 merge 1
- git merge 1
- 손글씨 분류 1
- machine-learning 1
- 피클 1
- pickle 1
- kneighbors 1
- 뉴스기사 수집 1
- rss 크롤링 1
- 타이타닉 생존자 예측 1
- git clean 1
- untracked files 1
- gpu 설치 1
- mirror 1
- kakao 1
- 딥러닝 서버 1
- 메모리 1
- memory 1
- ssd 1
- 캐글 api 1
- kaggle api 1
- voting ensemble 1
- 보팅 앙상블 1
- hard_vote 1
- soft_vote 1
- bagging ensemble 1
- boosting 1
- stacking 1
- gbm 1
- gradient 1
- gridsearch 1
- 그래프 시각화 1
- graphviz 1
- 차원축소 1
- 주성분 분석 1
- pca 1
- utf8 1
- 인코딩 1
- encoding 1
- 공공데이터 1
- map 1
- reduce 1
- imdb 1
- word2vec 1
- pre-trained 모델 1
- 감정분류 1
- 라벨인코더 1
- category dtype 1
- google adsense 1
- 구글 애드센스 1
- 구글 광고 1
- 블로그 수익화 1
- github blog 1
- seo 1
- naver webmaster 1
- google search engine 1
- google analytics 1
- 키워드 분석 1
- 손실함수 1
- loss function 1
- 평가지표 1
- metrics 1
- 데이터셋 분할 1
- train_test_split 1
- train set 1
- validation set 1
- test set 1
- stratify 1
- reducelronplateau 1
- 모델 체크포인트 1
- model checkpoint 1
- earlystopping 1
- 런타임 1
- 우분투 1
- nanum 1
- 나눔고딕 설치 1
- kbo 1
- 데이터 분석 강의 1
- coding 1
- lecture 1
- magic command 1
- digit recognizer 1
- canvas 1
- 워드임베딩 1
- word embedding 1
- sarsasm dataset 1
- 통계차트 1
- batch 1
- window 1
- flat_map 1
- data loader 1
- imagedatagenerator 1
- datasets api 1
- gan 1
- vanilla gan 1
- vgg16 1
- 오토인코더 1
- autoencoder 1
- github 1
- deep-learning 1
- gradient-tape 1
- interpolation 1
- interpolate 1
- 결측치 보간 1
- 결측치 처리 1
- 시계열데이터 1
- 나라장터 1
- 입찰공고 1
- 입찰 1
- 토건 1
- 토목 1
- 입찰강의 1
- text_generation 1
- 텐서플로 강의 1
- 텐서플로 튜토리얼 1
- shakespear 1
- 코랩 1
- 코랩 한글 1
- colab 한글 1
- 한글깨짐 1
- 코랩 한글깨짐 1
- dll 1
- dll load failed 1
- dll 오류 1
- dll 에러 1
- visual studio 1
- 윈도우10 1
- windows10 1
- tensorflow gpu install 1
- tensorflow gpu 1
- tensorflow windows 1
- 텐서플로 설치 1
- 텐서플로 GPU 1
- 텐서플로 윈도우 1
- 캡스톤 프로젝트 1
- capstone 1
- 비전공장 1
- 입문자 1
- 빅데이터 1
- 포트폴리오 1
- 멘토링 1
- 국민연금 1
- 연봉추정 1
- 크레딧잡 1
- kreditjob 1
- 최소제곱법 1
- least ordinary squares 1
- ols 1
- machine leaerning 1
- sgdregressor 1
- load_iris 1
- scaler 1
- standardscaler 1
- minmaxscaler 1
- 스케일러 1
- inverse transform 1
- knn 1
- 최근접 이웃 분류 1
- 분류 알고리즘 1
- lasso 1
- ridge 1
- elasticnet 1
- 규제 1
- 로지스틱회귀 1
- logistic regression 1
- 분류 1
- precision 1
- recall 1
- f1 score 1
- 의사결정 나무 1
- entropy 1
- gini 1
- 엔트로피 1
- 지니계수 1
- grid search 1
- random search 1
- 어텐션 1
- ai 주가예측 1
- finance data reader 1
- prophet 1
- facebook prophet 1
- meta prophet 1
- 책 1
- 데이터과학 트레이닝북 1
- 인사이트 출판사 1
- 인공지능 책 추천 1
- functional api 1
- 함수형 api 1
- inheritance 1
- class 1
- 클래스 1
- 클래스 인스턴스 1
- instance 1
- 부모 클래스 1
- series 1
- 엑셀 1
- json 1
- 조회 1
- 정렬 1
- 조건 필터 1
- loc 1
- iloc 1
- 파이썬 통계 1
- 통계 분석 1
- 결측치 1
- 복사 1
- 데이터 타입 1
- 컬럼 추가 1
- 컬럼 삭제 1
- 행 삭제 1
- ai수학 1
- 처음 만나는 ai수학 1
- 딥러닝 수학 1
- 파이썬 수학 1
- 선형대수 1
- 영진닷컴 1
- 베이시안 최적화 1
- baysian optimization 1
- hyperopt 1
- 넘파이 1
- 리스트 1
- list 1
- 튜플 1
- tuple 1
- 세트 1
- set 1
- 딕셔너리 1
- dictionary 1
- 문자열 1
- string 1
- 문자열 포맷팅 1
- 연산 1
- 비교연산자 1
- 삼항연산자 1
- 논리연산자 1
- 조건문 1
- if 1
- elif 1
- else 1
- 반복문 1
- for in 1
- while 1
- comprehension 1
- 컴프리헨션 1
- 리스트 컴프리헨션 1
- list comprehension 1
- 함수 1
- function 1
- lambda 함수 1
- argument 1
- parameter 1
- 인수 1
- 매개변수 1
- 내장함수 1
- zip 1
- enumerate 1
- 모듈 1
- module 1
- 캐글 도커 1
- gpu 테스트 1
- yes24 1
- SQL 1
- 정규식 표현 1
- 도서 추천 1
- 무료 전자책 1
- database 책 추천 1
- e book 1
- 그룹바이 1
- pivot table 1
- 데이터 병합 1
- 데이터 연결 1
- concat 1
- merge 1
- 알고리마 1
- algorima 1
- 텀블벅 1
- 책 리뷰 1
- 테디노트 1
- 파이썬 책 추천 1
- 파이썬 딥러닝 텐서플로 1
- 텐서플로우 책 추천 1
- 텐서플로 책 1
- 인공지능 서적 1
- jekyll 블로그 1
- 노트북 변환 1
- colab 변환 1
- html 1
- 변환 1
- 주식 1
- 코사인유사도 1
- cosine similarity 1
- 주가 예측 1
- ai 주가 1
- 패턴검색 1
- 파이썬 주식 1
- 판다스 주식 1
- 유사 종목 검색 1
- 캔들 패턴 1
- 성인 인구조사 1
- 소득 1
- kakr 1
- tacademy 1
- pycaret 1
- folium 1
- 지도 시각화 1
- 원격 서버 1
- iptime 1
- 원격 접속 허용 1
- google cloud api 1
- 위도 1
- 경도 1
- 지도 api 1
- google 지도 1
- google cloud platform 1
- api key 1
- 발급 1
- ai spark 챌린지 1
- 수도관 누수 탐지 1
- 음성 1
- 오디오 1
- 푸리에 변환 1
- color 1
- palette 1
- 컬러 팔레트 1
- color name 1
- 색상 1
- 팔레트 1
- 카카오브레인 1
- kakao brain 1
- 뽀로로 1
- pororo 1
- 트랜스포머 1
- gpt 1
- 토크나이저 1
- 문장 생성 1
- 문장 예측 1
- summary 1
- 기계번역 1
- mask 1
- 구글 드라이브 1
- google drive 1
- drive api 1
- file download 1
- 파일 다운로드 1
- 옵튜나 1
- optuna 1
- 베이스라인 1
- catboost 1
- 하이퍼파라미터 1
- install 1
- from_numpy 1
- as_tensor 1
- view 1
- reshape 1
- dtype 1
- torchsummary 1
- 모델 구조 1
- shape 1
- 차원 1
- 입출력 1
- 도커 실행 1
- tensorflow docker 1
- 텐서플로 도커 1
- 파이토치 도커 1
- pytorch docker 1
- 이미지정규화 1
- torchvision 1
- transform 1
- image transform 1
- 이미지 전처리 1
- 이미지 정규화 1
- 그룹화 1
- 데이터 전처리 1
- 판다스 데이터분석 1
- DataFrame 1
- 통계. 파이썬 데이터 분석 1
- pytorch datasets 1
- 이미지 데이터셋 1
- 파이토치 데이터셋 1
- regression 1
- subclassing 1
- 심층신경망 1
- deep neural network 1
- dnn 1
- train 1
- evaluate 1
- rps 1
- 가위바위보 1
- fine tuning 1
- 미세조정 1
- image dataset 1
- alexnet 1
- m1 맥북 1
- m2 맥북 1
- 실리콘 1
- mac 1
- metal 1
- 맥 os 1
- miniconda 1
- 이미지 증강 1
- pypi 1
- 파이썬 패키지 1
- 패키지 생성 1
- 패키지 등록 1
- googlenet 1
- inception module 1
- pytorch implementation 1
- going deeper with convolutions 1
- imagenet 1
- inceptionnet 1
- 환경설치 1
- bbc-text.csv 1
- tensorflow certificate 1
- 자연어 처리 1
- embedding 1
- stopwords 1
- 자격증 강의 1
- huggingface 1
- nsmc 1
- 네이버 댓글 1
- 한글 자연어처리 1
- 텍스트 분류 1
- 허깅페이스 1
- 사전학습 1
- 토큰화 1
- 머신러닝 도커 1
- gpu 사용 1
- torchtext 1
- 텍스트 전처리 1
- 토치텍스트 1
- tabulardataset 1
- 블로그 1
- 수익 1
- 깃헙블로그 1
- automation 1
- blog 1
- investing.com 1
- 영문뉴스기사 1
- 번역 1
- 경제기사 1
- 로또 1
- lotto 1
- requests 1
- beautifulsoup4 1
- bs4 1
- 데이터 수집 1
- pyairtable 1
- 에어테이블 1
- 테이블 1
- table 1
- base 1
- base_id 1
- 데이터 1
- db 1
- dropbox 1
- 데이터분석 1
- 파일공유 1
- wget 1
- 데이콘 1
- dacon 1
- 자동차충돌 1
- AI경진대회 1
- conv3d 1
- early stopping 1
- 콤마구분자 1
- 소수점표기 1
- 과학표기법 1
- wandb 1
- wights and biases 1
- input tensor 1
- output tensor 1
- hidden state 1
- cell state 1
- bidirectional 1
- chatbot 1
- cuda12.1 1
- cuda11.8 1
- ubuntu20.04 1
- gradio 1
- google bard 1
- bard api 1
딥러닝
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
[huggingface] 한글 pre-trained 사전학습 BERT 모델로 텍스트 분류하기
이번 포스팅에서는 Huggingface의 한글 데이터셋으로 사전 학습된 kykim/bert-kor-base 모델을 가져와서 한글 자연어 데이터에 대한 텍스트 분류기를 만들어 보겠습니다. 이미지넷에서는 전이학습을 통해 손쉽게 Transfer Learning을 수행할 수 있습니다. ...
GoogLeNet의 Inception Module, 1x1 컨볼루션의 의미와 구현
Going Deeper with Convolutions(2015) Inception 모듈에 대한 내용입니다. 해당 논문에서는 Inception Module이라는 새로운 neural network architecture 를 공개하였습니다. 논문의 제목과 같이 Going Deeper ...
torchvision의 transform으로 이미지 정규화하기(평균, 표준편차를 계산하여 적용)
딥러닝 모델이 이미지를 학습하기 전 이미지 정규화를 진행하는 것은 일반적으로 수행하는 전처리 입니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
뽀로로(PORORO) 자연어처리 라이브러리 활용기 (dev. and maintained by 카카오 브레인(Kakao Brain) PORORO팀)
카카오 브레인(Kakao Brain) 에서 개발한 자연어처리 종합 선물 세트
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
파이썬 딥러닝 텐서플로 책이 출간되었습니다!
지난 6개월간 동료 3명과 집필한 “파이썬 딥러닝 텐서플로” 책이 드디어 온라인/오프라인 출간 되었습니다!!!
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
[tensorflow] 함수형 (Functional) API 모델링
본 튜토리얼은 TensorFlow Advanced Technique 시리즈의 일부 내용을 발췌하였습니다.
LSTM과 FinanceDataReader API를 활용한 삼성전자 주가 예측
이번 튜토리얼에서는 딥러닝 모델을 활용하여 삼성전자 주가 예측을 진행해 보겠습니다.
Attention을 활용한 Seq2Seq 모델 생성과 데이터셋 구성
이번 포스팅에서는 Attention을 활용한 Seq2Seq 모델을 생성하는 방법 그리고 Seq2Seq 모델의 학습을 위해 필요한 데이터셋을 구성하는 방법에 대하여 알아보도록 하겠습니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
입문자를 위한 데이터분석 포트폴리오 완성, 캡스톤프로젝트를 진행합니다.
이번 글은 국내 최고 성인 실무교육 기관인 패스트캠퍼스와 협력하여 지난 3개월간의 고민 끝에 드디어 런칭을 앞두고 있는 데이터분석 캡스톤 프로젝트에 대하여 시작하게 된 배경과 최종 목표에 대하여 공유하고자 합니다.
[tensorflow] RNN Text 생성 (셰익스피어 글 생성)
텐서플로우 공식 튜토리얼인 순환 신경망을 활용한 문자열 생성에 대한 클론 코드입니다. 셰익스피어 글 데이터셋을 활용하여 인공지능 모델을 학습시키고, 셰익스피어 스타일의 글을 생성할 수 있는 모델을 만들어 보도록 하겠습니다.
[tensorflow] 오토인코더 구현 (MNIST)
이번 포스팅에서는 오토인코더의 기본 개념에 대하여 알아보고, TensorFlow 2.0으로 오토인코더(Autoencoder)를 구현해 보겠습니다.
[tensorflow] VGG16 Transfer Learning 구현과 CNN 모델과 성능 비교
Tranfer Learning은 사전 학습된 모델을 활용하는 방법입니다. 사전 학습된 모델은 방대한 데이터에 대하여 이미 학습된 모델이기 떄문에 적은 학습 cost로 좋은 성능을 이끌어 낼 수 있습니다.
[tensorflow] 가장 기본모델인 Vanilla GAN 구현하기
GAN 이 참 핫합니다. 이번에는 가장 시초격인 Vanila GAN을 구현해 보도록 하겠습니다.
TensorBoard 활용법 및 colab에서 로드하기
TensorBoard 사용을 위한 callback을 만드는 방법과 colab에서 바로 로드하여 확인할 수 있는 magic command에 대한 내용입니다.
TensorFlow Datasets API 활용법
TensorFlow Datasets 는 다양한 데이터셋을 TensorFlow에서 활용하기 쉽도록 제공합니다. 굉장히 많고, 다양한 데이터셋이 학습하기 편한 형태로 제공 되기 때문에, 간단한 사용법만 알아두어도, 샘플로 모델을 돌려보고 학습하기에 매우 유용합니다.
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
[tensorflow] Dataset, batch, window, flat_map을 활용한 loader 만들기
tf.data.Dataset을 활용하여 다양한 Dataset 로더를 만들 수 있습니다. 그리고, 로더를 활용하여, shuffle, batch_size, window 데이터셋 생성등 다양한 종류를 데이터 셋을 상황에 맞게 생성하고 모델에 feed할 수 있도록 제공해 줍니다.
[tensorflow] 단어 토큰화, Embedding, LSTM layer를 활용한 뉴스 데이터 sarcasm 판단
캐글의 뉴스의 Sarcasm 에 대한 판단을 해주는 딥러닝 모델을 tensorflow 2.0을 활용하여 만들어 보겠습니다.
Kaggle Digit Recognizer Competition - achieve over 99% accuracy!
This is a very simple tutorial for tensorflow 2.0 beginners! This tutorial is based on Digit Recognizer presented by Kaggle You may be able to submit w...
딥러닝(LSTM)을 활용하여 삼성전자 주가 예측을 해보았습니다
본 내용을 토대로 코드가 업데이트 되었습니다. 최신글을 확인해 주세요
[Keras] 콜백함수 (3) - 조기종료: EarlyStopping
EarlyStopping 콜백을 활용하면, model의 성능 지표가 설정한 epoch동안 개선되지 않을 때 조기 종료할 수 있습니다. EarlyStopping과 이전에 언급한 ModelCheckpoint 콜백의 조합을 통하여, 개선되지 않는 학습에 대한 조기 종료를 실행하고, Mo...
[Keras] 콜백함수 (2) - weight 중간 저장: ModelCheckpoint
keras의 콜백함수인 ModelCheckpoint는 모델이 학습하면서 정의한 조건을 만족했을 때 Model의 weight 값을 중간 저장해 줍니다. 학습시간이 꽤 오래걸린다면, 모델이 개선된 validation score를 도출해낼 때마다 weight를 중간 저장함으로써, 혹시 ...
[Keras] 콜백함수 (1) - 학습률(learning rate): ReduceLROnPlateau
keras의 콜백함수인 ReduceLROnPlateau는 학습률이 개선되지 않을 때, 학습률을 동적으로 조정하여 학습률을 개선하는 효과를 기대할 수 있습니다. 경사하강법에 의하여 학습을 하는 경우 Local Minima에 빠져버리게 되면, 더이상 학습률이 개선되지 않고 정체되거나,...
[Keras] 손실함수(Loss Function)와 평가지표(metric) 커스텀하기
이번 포스팅에서는 Keras 딥러닝 프레임워크 활용시 loss function과 metric 을 커스텀하는 방법에 대하여 다뤄보도록 하겠습니다.
keras를 활용한 word2vec pre-trained 모델을 로딩하여 IMDB 감정분석 분류문제 해결하기
이번 포스팅에서는 keras api를 활용하여 텍스트에 대한 전처리(Tokenization)와 Word Embdding, 그리고 구글이 공개한 word2vec (Google News 300) 모델을 다운로드 받아, pre-trained 모델을 통해 IMDB 데이터의 감정을 분류하는...
딥러닝 PC에 Ubuntu 18.04 설치 후 CUDA 10, cuDNN 설치하기
Amazon AWS에서 좋은 GPU 자원으로 딥러닝을 돌리다보니 요금폭탄을 맞았습니다.. 그래서 이참에 딥러닝 PC를 구매를 하게 되었고 딥러닝 서버를 위한 CUDA 및 cuDNN까지 설치하는 방법에 대하여 알려드리고자 합니다.
Tensorflow를 활용하여 Mnist data classification을 CNN으로 구현
이번 포스팅에서는 Google Tensorflow의 웹사이트의 Demo에 나와 있는 가이드라인에 따라, tensorflow 라이브러리를 활용하여 구현해 보도록 하겠습니다.
Machine Learning - Single Layer NN과 Multi Layer NN으로 XOR문제 다뤄보기
Single-Layer Neural Network 에서 풀 수 없는 문제인 XOR Problem을 Tensorflow를 활용하여 Multi-Layer Neural Network로 구현해 보도록 하겠다.
Python 과 Tensorflow로 Mnist 글자인식 구현하기
이번 포스팅에서는 Mnist 데이터를 땡파이썬으로 구현해봄과 동시에 Tensorflow 를 활용하여 구현해 보겠다.
deep learning
[pytorch] Early Stopping 조기종료 구현 및 적용
조기 종료(Early Stopping)는 학습시 일정기간(여기서 기간은 보통 N번의 Epoch을 기준으로 합니다)동안 Loss 나 Score 기준으로 개선이 일어나지 않으면 학습을 조기에 종료해 주는 기능입니다. 만약, 20번의 Epoch 동안 학습이 진행한다고 가정했을 때, 아래...
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
[huggingface] 한글 pre-trained 사전학습 BERT 모델로 텍스트 분류하기
이번 포스팅에서는 Huggingface의 한글 데이터셋으로 사전 학습된 kykim/bert-kor-base 모델을 가져와서 한글 자연어 데이터에 대한 텍스트 분류기를 만들어 보겠습니다. 이미지넷에서는 전이학습을 통해 손쉽게 Transfer Learning을 수행할 수 있습니다. ...
GoogLeNet의 Inception Module, 1x1 컨볼루션의 의미와 구현
Going Deeper with Convolutions(2015) Inception 모듈에 대한 내용입니다. 해당 논문에서는 Inception Module이라는 새로운 neural network architecture 를 공개하였습니다. 논문의 제목과 같이 Going Deeper ...
torchvision의 transform으로 이미지 정규화하기(평균, 표준편차를 계산하여 적용)
딥러닝 모델이 이미지를 학습하기 전 이미지 정규화를 진행하는 것은 일반적으로 수행하는 전처리 입니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
뽀로로(PORORO) 자연어처리 라이브러리 활용기 (dev. and maintained by 카카오 브레인(Kakao Brain) PORORO팀)
카카오 브레인(Kakao Brain) 에서 개발한 자연어처리 종합 선물 세트
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
[tensorflow] 함수형 (Functional) API 모델링
본 튜토리얼은 TensorFlow Advanced Technique 시리즈의 일부 내용을 발췌하였습니다.
LSTM과 FinanceDataReader API를 활용한 삼성전자 주가 예측
이번 튜토리얼에서는 딥러닝 모델을 활용하여 삼성전자 주가 예측을 진행해 보겠습니다.
Attention을 활용한 Seq2Seq 모델 생성과 데이터셋 구성
이번 포스팅에서는 Attention을 활용한 Seq2Seq 모델을 생성하는 방법 그리고 Seq2Seq 모델의 학습을 위해 필요한 데이터셋을 구성하는 방법에 대하여 알아보도록 하겠습니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
[tensorflow] RNN Text 생성 (셰익스피어 글 생성)
텐서플로우 공식 튜토리얼인 순환 신경망을 활용한 문자열 생성에 대한 클론 코드입니다. 셰익스피어 글 데이터셋을 활용하여 인공지능 모델을 학습시키고, 셰익스피어 스타일의 글을 생성할 수 있는 모델을 만들어 보도록 하겠습니다.
[tensorflow] 오토인코더 구현 (MNIST)
이번 포스팅에서는 오토인코더의 기본 개념에 대하여 알아보고, TensorFlow 2.0으로 오토인코더(Autoencoder)를 구현해 보겠습니다.
[tensorflow] VGG16 Transfer Learning 구현과 CNN 모델과 성능 비교
Tranfer Learning은 사전 학습된 모델을 활용하는 방법입니다. 사전 학습된 모델은 방대한 데이터에 대하여 이미 학습된 모델이기 떄문에 적은 학습 cost로 좋은 성능을 이끌어 낼 수 있습니다.
[tensorflow] 가장 기본모델인 Vanilla GAN 구현하기
GAN 이 참 핫합니다. 이번에는 가장 시초격인 Vanila GAN을 구현해 보도록 하겠습니다.
TensorBoard 활용법 및 colab에서 로드하기
TensorBoard 사용을 위한 callback을 만드는 방법과 colab에서 바로 로드하여 확인할 수 있는 magic command에 대한 내용입니다.
TensorFlow Datasets API 활용법
TensorFlow Datasets 는 다양한 데이터셋을 TensorFlow에서 활용하기 쉽도록 제공합니다. 굉장히 많고, 다양한 데이터셋이 학습하기 편한 형태로 제공 되기 때문에, 간단한 사용법만 알아두어도, 샘플로 모델을 돌려보고 학습하기에 매우 유용합니다.
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
[tensorflow] Dataset, batch, window, flat_map을 활용한 loader 만들기
tf.data.Dataset을 활용하여 다양한 Dataset 로더를 만들 수 있습니다. 그리고, 로더를 활용하여, shuffle, batch_size, window 데이터셋 생성등 다양한 종류를 데이터 셋을 상황에 맞게 생성하고 모델에 feed할 수 있도록 제공해 줍니다.
[tensorflow] 단어 토큰화, Embedding, LSTM layer를 활용한 뉴스 데이터 sarcasm 판단
캐글의 뉴스의 Sarcasm 에 대한 판단을 해주는 딥러닝 모델을 tensorflow 2.0을 활용하여 만들어 보겠습니다.
Kaggle Digit Recognizer Competition - achieve over 99% accuracy!
This is a very simple tutorial for tensorflow 2.0 beginners! This tutorial is based on Digit Recognizer presented by Kaggle You may be able to submit w...
딥러닝(LSTM)을 활용하여 삼성전자 주가 예측을 해보았습니다
본 내용을 토대로 코드가 업데이트 되었습니다. 최신글을 확인해 주세요
[Keras] 콜백함수 (3) - 조기종료: EarlyStopping
EarlyStopping 콜백을 활용하면, model의 성능 지표가 설정한 epoch동안 개선되지 않을 때 조기 종료할 수 있습니다. EarlyStopping과 이전에 언급한 ModelCheckpoint 콜백의 조합을 통하여, 개선되지 않는 학습에 대한 조기 종료를 실행하고, Mo...
[Keras] 콜백함수 (2) - weight 중간 저장: ModelCheckpoint
keras의 콜백함수인 ModelCheckpoint는 모델이 학습하면서 정의한 조건을 만족했을 때 Model의 weight 값을 중간 저장해 줍니다. 학습시간이 꽤 오래걸린다면, 모델이 개선된 validation score를 도출해낼 때마다 weight를 중간 저장함으로써, 혹시 ...
[Keras] 콜백함수 (1) - 학습률(learning rate): ReduceLROnPlateau
keras의 콜백함수인 ReduceLROnPlateau는 학습률이 개선되지 않을 때, 학습률을 동적으로 조정하여 학습률을 개선하는 효과를 기대할 수 있습니다. 경사하강법에 의하여 학습을 하는 경우 Local Minima에 빠져버리게 되면, 더이상 학습률이 개선되지 않고 정체되거나,...
[Keras] 손실함수(Loss Function)와 평가지표(metric) 커스텀하기
이번 포스팅에서는 Keras 딥러닝 프레임워크 활용시 loss function과 metric 을 커스텀하는 방법에 대하여 다뤄보도록 하겠습니다.
keras를 활용한 word2vec pre-trained 모델을 로딩하여 IMDB 감정분석 분류문제 해결하기
이번 포스팅에서는 keras api를 활용하여 텍스트에 대한 전처리(Tokenization)와 Word Embdding, 그리고 구글이 공개한 word2vec (Google News 300) 모델을 다운로드 받아, pre-trained 모델을 통해 IMDB 데이터의 감정을 분류하는...
딥러닝 PC에 Ubuntu 18.04 설치 후 CUDA 10, cuDNN 설치하기
Amazon AWS에서 좋은 GPU 자원으로 딥러닝을 돌리다보니 요금폭탄을 맞았습니다.. 그래서 이참에 딥러닝 PC를 구매를 하게 되었고 딥러닝 서버를 위한 CUDA 및 cuDNN까지 설치하는 방법에 대하여 알려드리고자 합니다.
Tensorflow를 활용하여 Mnist data classification을 CNN으로 구현
이번 포스팅에서는 Google Tensorflow의 웹사이트의 Demo에 나와 있는 가이드라인에 따라, tensorflow 라이브러리를 활용하여 구현해 보도록 하겠습니다.
Machine Learning - Single Layer NN과 Multi Layer NN으로 XOR문제 다뤄보기
Single-Layer Neural Network 에서 풀 수 없는 문제인 XOR Problem을 Tensorflow를 활용하여 Multi-Layer Neural Network로 구현해 보도록 하겠다.
Python 과 Tensorflow로 Mnist 글자인식 구현하기
이번 포스팅에서는 Mnist 데이터를 땡파이썬으로 구현해봄과 동시에 Tensorflow 를 활용하여 구현해 보겠다.
Deep Learning - Softmax 함수란
인공신경망에서 출력층의 정규화를 위한 함수인 소프트맥스(softmax)함수에 대하여 알아보겠다.
python
Google Bard 파이썬(Python) API 활용
이번 포스팅에서는 구글 바드(Google Bard) 의 파이썬(Python) API 사용법에 대해 알아보겠습니다.
ChatGPT openai 파이썬(python) 모듈을 활용한 챗봇 구현
이번 포스팅에서는 openai 사의 ChatGPT 기능을 파이썬(python) 모듈을 활용하여 챗봇 을 구현하는 방법에 대하여 알아보겠습니다.
파이썬, 데이터분석가를 위한 초간단 파일공유 서비스
본 내용은 자체 제작한 파일공유 서비스에 대한 내용입니다. 말그대로 파일을 가장 쉬운 방법으로 공유할 수 있는 서비스이며, 링크를 활용하여 공유할 수 있습니다. Python, wget 명령어로 다운로드 받는 코드를 제공하며, 비밀번호로 암호화 하여 공유도 가능합니다.
에어테이블(airtable)의 table 조회, 추가, 업데이트, 삭제 Python API
본 내용은 Airtable 에서 table에 대해서 데이터를 조회, 추가, 삭제 및 정렬 하는 방법에 대해서 다룹니다. 본 튜토리얼은 airtable의 공식 pyairtable 파이썬 패키지를 활용합니다.
나만의 파이썬 패키지(PYPI) 만들기 및 등록하고 배포하기
PYPI는 Python Package Index의 약어로 Python 패키지 저장소의 개념으로 생각하시면 됩니다. 수 많은 개발자들이 본인이 만든 파이썬 소프트웨어를 손쉽게 설치하고 활용할 수 있도록 패키지화 하여 저장소에 업로드를 하는데요. 저장소에 업로드된 패키지를 pip in...
[2023년 업데이트] 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 - 데이터분석편
지난 2020년에 작성한 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (1), 글과 후속 글인 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (2) 을 많이 읽어 주셔서 감사드립니다. 작성 당시에는 가벼운 마음으로 개인...
실리콘(M1, M2) 맥(Mac) OS 에서 텐서플로(TensorFlow) 설치 방법
실리콘(M1, M2) 맥(Mac) 사용하는 유저가 최근 1~2년 안에 급격하게 늘어나면서, m1, m2 칩셋을 사용하는 맥 사용자를 위한 가상 환경 설치와 TensorFlow 설치에 대한 문의가 많았습니다. 아쉽게도 그동안 제가 실리콘 맥이 없어 직접 테스트를 해볼 수 없었기 때문...
Google Cloud API를 활용하여 주소의 위도, 경도 정보 가져오기
Google Cloud API 의 Geocoding API를 활용하여 한글 주소를 위/경도 좌표계로 변경해 보는 방법에 대하여 알아보겠습니다.
지도 시각화 도구 Folium 사용법을 파헤쳐보자!
지도위에 데이터를 interactive하게 표현해 주는 대표적인 파이썬 지도 시각화 라이브러리 folium에 대해서 알아보고 그 사용법을 파헤쳐보도록 하겠습니다.
파이썬 딥러닝 텐서플로 책이 출간되었습니다!
지난 6개월간 동료 3명과 집필한 “파이썬 딥러닝 텐서플로” 책이 드디어 온라인/오프라인 출간 되었습니다!!!
#11-파이썬(Python) 패키지(package)와 모듈(module)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 패키지(package)와 모듈(module)을 다룹니다.
#10-파이썬(Python) 내장함수-map, zip, filter, enumerate
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 내장함수(built-in function) 중 map(), zip(), filter(), enumerate()를 다룹니다.
#09-파이썬(Python) 함수, lambda 함수, 인수(arguments), 매개변수(parameters)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 함수(function), lambda 함수, 인수(arguments)와 매개변수(parameters)를 다룹니다.
#08-파이썬(Python) 컴프리헨션(Comprehension)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 컴프리헨션(Comprehension)을 다룹니다.
#07-파이썬(Python) 반복문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#06-파이썬(Python) 비교, 논리, 삼항연산자와 조건문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#05-파이썬(Python) 연산
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#04-파이썬(Python) 문자열(str)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#03-파이썬(Python) 세트(set)와 딕셔너리(dictionary)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 세트(set)와 딕셔너리(dictionary)를 다룹니다.
#02-파이썬(Python) 리스트(list)와 튜플(tuple)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 리스트(list)와 튜플(tuple)을 다룹니다.
#01-파이썬(Python) 기본 자료구조
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
처음 만나는 AI수학 with 파이썬 책 리뷰 - 수포자, 비전공자를 위한 수학
이번 포스팅에서는 처음 만나는 AI수학 with 파이썬 책 리뷰를 해보도록 하겠습니다.
Python 클래스의 상속 (inheritance)
텐서플로의 Model Subclassing 구현을 위해서는 python의 상속(inheritance) 개념을 필히 알고 있어야 합니다. 그래서, 이번 포스팅에서는 python의 클래스 그리고 상속에 대한 내용을 다뤄 보도록 하겠습니다.
[tensorflow] GradientTape의 활용법
TensorFlow 2.0의 자동 미분 기능인 GradientTape에 대하여 알아보겠습니다.
Google Colab에서 python 패키지를 영구적(permanently)으로 설치하는 방법
Colab에서 영구적(permanently)으로 파이썬 패키지를 설치(install) 하는 방법에 대하여 공유드리고자 합니다.
데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (2)
데이터 분석과 인공지능을 공부하려는 분들께 국내 서적을 기준으로 목적에 맞는 책과 공부를 해왔던 경험담에 대하여 공유드리고자 합니다. 데이터 분석 및 인공지능에 관심있는 분들께 도움이 되셨으면 좋겠습니다.
데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (1)
데이터 분석과 인공지능을 공부하려는 분들께 국내 서적을 기준으로 목적에 맞는 책과 공부를 해왔던 경험담에 대하여 공유드리고자 합니다. 데이터 분석 및 인공지능에 관심있는 분들께 도움이 되셨으면 좋겠습니다.
python의 built-in function인 lambda, map, filter, 그리고 reduce에 대한 쉬운 이해와 사용법
lambda, map, filter 그리고 reduce는 python 코딩에서 자주 활용되는 대표적인 built-in function입니다. (reduce는 python3에서 built-in에서는 제거되었습니다)
뉴스 기사 와 RSS 피드에서 손쉽게 크롤링 하여 정보 수집하기
최근 뉴스 기사를 크롤링하여 군집화 하는 작업을 하기 위해서, 국내 신문기사의 정보들을 크롤링해야하는 작업이 필요하였습니다. request와 BeautifulSoup4를 사용해서 크롤링하는 것은 간단하지만, 언론사 웹사이트 별로 기사의 contents를 표시하는 tag와 class...
python의 pickle 기능을 활용하여 data를 저장하고 불러오는 방법
큰 용량의 dataset을 다루다 보면, 중간에 binary file 형태로 저장하고, 이를 나중에 불러와야하는 경우가 있습니다.
Data Science (데이터 분석)을 위한 python package 리스트(2) - 시각화
Data 분석시 유용하게 쓰이는 시각화 관련 파이썬 라이브러리에 대하여 알아보겠습니다.
Data Science (데이터 분석)을 위한 python package 리스트(1) - 필수 패키지
Python을 활용한 Data Science, 즉 더 구체적으로 얘기하자면, 데이터 분석을 할 때는 다양한 패키지들을 활용하게 됩니다. 초기에 가상환경을 여러개 만들어 놓고 상황에 맞춰 돌아가면서 쓸 수 있습니다.
jupyter notebook remote 접속 허용 설정
Jupyter Notebook을 원격에서 접속하려고 할 때 셋팅하는 방법에 대해 알아보겠습니다.
[Linux] Python(.py)을 가상환경(virtualenv)에서 주기별로 실행하기
python으로 주기적으로 크롤링 작업을 하거나, 또는 기타 여러가지 상황때문에 .py 파일을 리눅스 환경에서 주기적으로 실행하고 싶은 경우가 있을 겁니다. 그리고 대부분 .py 파일별로 다른 가상환경에서 .py를 실행시켜야 하는 경우도 있을 겁니다.
python django 프로젝트를 아마존(aws) ec2 인스턴스에 생성 및 원격접속
python 으로 django 프로젝트를 생성해서 작업할 일이 생겼다. 로컬에서 작업하는 것보다 amazon aws에 ec2 인스턴스에 셋팅을 한 뒤에 Visual Studio Code의 ftp-simple 플러그인을 활용해서 remote workplace에서 작업을 해보기로 결정...
Anaconda를 활용한 python 가상환경(virtual env) 설정하기
이번 포스팅에서는 Python을 활용하여 개발 / 혹은 jupyter notebook을 사용할 때 필수인 가상환경 (Virtual Environment) 설정하는 법에 대한 팁과 간단한 강좌를 공유해 드리도록 하겠습니다.
파이썬(Python) 가상환경 설정하기
Python(파이썬) 개발시 필수 환경설정인 가상환경 설치 및 설정하기에 대해 알아보겠다.
tensorflow
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
bbc-text.csv 데이터셋을 활용한 BBC 뉴스 아티클 카테고리 분류기 만들기
BBC 뉴스 아티클 묶음 데이터셋인 bbc-text.csv 파일을 활용하여 TensorFlow 의 Tokenizer로 단어 사전을 만들고 자연어 처리 모델 학습을 위한 데이터 전처리를 진행해 보겠습니다. bbc-text.csv 파일을 pandas로 읽어와서 데이터프레임 변환 후 라...
[2023년 업데이트] 구글 텐서플로 개발자 자격인증 시험을 위한 환경설치(PyCharm, 필요 라이브러리 설치)
본 포스팅은 Google TensorFlow Developers Certificate 자격인증 시험을 위한 환경설치를 위한 내용입니다.
실리콘(M1, M2) 맥(Mac) OS 에서 텐서플로(TensorFlow) 설치 방법
실리콘(M1, M2) 맥(Mac) 사용하는 유저가 최근 1~2년 안에 급격하게 늘어나면서, m1, m2 칩셋을 사용하는 맥 사용자를 위한 가상 환경 설치와 TensorFlow 설치에 대한 문의가 많았습니다. 아쉽게도 그동안 제가 실리콘 맥이 없어 직접 테스트를 해볼 수 없었기 때문...
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
[tensorflow] 함수형 (Functional) API 모델링
본 튜토리얼은 TensorFlow Advanced Technique 시리즈의 일부 내용을 발췌하였습니다.
Attention을 활용한 Seq2Seq 모델 생성과 데이터셋 구성
이번 포스팅에서는 Attention을 활용한 Seq2Seq 모델을 생성하는 방법 그리고 Seq2Seq 모델의 학습을 위해 필요한 데이터셋을 구성하는 방법에 대하여 알아보도록 하겠습니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
텐서플로(tensorflow) 윈도우 10 GPU 설치
텐서플로우(TensorFlow) 2.0 를 윈도우(Windows) 10에서 GPU를 활용하여 학습할 수 있도록 설치하는 방법에 대하여 공유드리고자 합니다.
텐서플로우(tensorflow) 파이참(pycharm)에서 dll 오류 해결
TensorFlow 2.0을 Pycharm에서 실행시 dll load failed: 지정된 모듈을 찾을 수 없습니다.가 나는 경우가 있습니다.
[tensorflow] RNN Text 생성 (셰익스피어 글 생성)
텐서플로우 공식 튜토리얼인 순환 신경망을 활용한 문자열 생성에 대한 클론 코드입니다. 셰익스피어 글 데이터셋을 활용하여 인공지능 모델을 학습시키고, 셰익스피어 스타일의 글을 생성할 수 있는 모델을 만들어 보도록 하겠습니다.
[tensorflow] GradientTape의 활용법
TensorFlow 2.0의 자동 미분 기능인 GradientTape에 대하여 알아보겠습니다.
[tensorflow] 오토인코더 구현 (MNIST)
이번 포스팅에서는 오토인코더의 기본 개념에 대하여 알아보고, TensorFlow 2.0으로 오토인코더(Autoencoder)를 구현해 보겠습니다.
[tensorflow] VGG16 Transfer Learning 구현과 CNN 모델과 성능 비교
Tranfer Learning은 사전 학습된 모델을 활용하는 방법입니다. 사전 학습된 모델은 방대한 데이터에 대하여 이미 학습된 모델이기 떄문에 적은 학습 cost로 좋은 성능을 이끌어 낼 수 있습니다.
[tensorflow] 가장 기본모델인 Vanilla GAN 구현하기
GAN 이 참 핫합니다. 이번에는 가장 시초격인 Vanila GAN을 구현해 보도록 하겠습니다.
TensorBoard 활용법 및 colab에서 로드하기
TensorBoard 사용을 위한 callback을 만드는 방법과 colab에서 바로 로드하여 확인할 수 있는 magic command에 대한 내용입니다.
TensorFlow Datasets API 활용법
TensorFlow Datasets 는 다양한 데이터셋을 TensorFlow에서 활용하기 쉽도록 제공합니다. 굉장히 많고, 다양한 데이터셋이 학습하기 편한 형태로 제공 되기 때문에, 간단한 사용법만 알아두어도, 샘플로 모델을 돌려보고 학습하기에 매우 유용합니다.
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
[tensorflow] Dataset, batch, window, flat_map을 활용한 loader 만들기
tf.data.Dataset을 활용하여 다양한 Dataset 로더를 만들 수 있습니다. 그리고, 로더를 활용하여, shuffle, batch_size, window 데이터셋 생성등 다양한 종류를 데이터 셋을 상황에 맞게 생성하고 모델에 feed할 수 있도록 제공해 줍니다.
[tensorflow] 단어 토큰화, Embedding, LSTM layer를 활용한 뉴스 데이터 sarcasm 판단
캐글의 뉴스의 Sarcasm 에 대한 판단을 해주는 딥러닝 모델을 tensorflow 2.0을 활용하여 만들어 보겠습니다.
Kaggle Digit Recognizer Competition - achieve over 99% accuracy!
This is a very simple tutorial for tensorflow 2.0 beginners! This tutorial is based on Digit Recognizer presented by Kaggle You may be able to submit w...
텐서플로우 개발자 자격증 (Tensorflow Developer Certification) 시험 그리고 취득방법
Google 에서 공식 인증하는 Tensorflow Developers Certification (텐서플로우 2.0 개발자 자격증) 시험에 대한 응시 방법, 취득, 그리고 노하우를 공유드리고자 합니다.
Google Colab에서 코드 한 줄(magic command)로 tensorflow2.0으로 업그레이드
Google Colab에서 tensorflow 2.0으로 magic command를 통해 손쉽게 업그레이드 하는 방법에 대하여 알려드리겠습니다.
딥러닝(LSTM)을 활용하여 삼성전자 주가 예측을 해보았습니다
본 내용을 토대로 코드가 업데이트 되었습니다. 최신글을 확인해 주세요
[Keras] 콜백함수 (3) - 조기종료: EarlyStopping
EarlyStopping 콜백을 활용하면, model의 성능 지표가 설정한 epoch동안 개선되지 않을 때 조기 종료할 수 있습니다. EarlyStopping과 이전에 언급한 ModelCheckpoint 콜백의 조합을 통하여, 개선되지 않는 학습에 대한 조기 종료를 실행하고, Mo...
[Keras] 콜백함수 (2) - weight 중간 저장: ModelCheckpoint
keras의 콜백함수인 ModelCheckpoint는 모델이 학습하면서 정의한 조건을 만족했을 때 Model의 weight 값을 중간 저장해 줍니다. 학습시간이 꽤 오래걸린다면, 모델이 개선된 validation score를 도출해낼 때마다 weight를 중간 저장함으로써, 혹시 ...
[Keras] 콜백함수 (1) - 학습률(learning rate): ReduceLROnPlateau
keras의 콜백함수인 ReduceLROnPlateau는 학습률이 개선되지 않을 때, 학습률을 동적으로 조정하여 학습률을 개선하는 효과를 기대할 수 있습니다. 경사하강법에 의하여 학습을 하는 경우 Local Minima에 빠져버리게 되면, 더이상 학습률이 개선되지 않고 정체되거나,...
[Keras] 손실함수(Loss Function)와 평가지표(metric) 커스텀하기
이번 포스팅에서는 Keras 딥러닝 프레임워크 활용시 loss function과 metric 을 커스텀하는 방법에 대하여 다뤄보도록 하겠습니다.
Tensorflow, Keras, Pytorch GPU 사용여부 체크하기
딥러닝 프레임워크에서 GPU 사용여부를 체크할 수 있는 API에 대하여 알려드리도록 하겠습니다.
Tensorflow를 활용하여 Mnist data classification을 CNN으로 구현
이번 포스팅에서는 Google Tensorflow의 웹사이트의 Demo에 나와 있는 가이드라인에 따라, tensorflow 라이브러리를 활용하여 구현해 보도록 하겠습니다.
Machine Learning - Single Layer NN과 Multi Layer NN으로 XOR문제 다뤄보기
Single-Layer Neural Network 에서 풀 수 없는 문제인 XOR Problem을 Tensorflow를 활용하여 Multi-Layer Neural Network로 구현해 보도록 하겠다.
Python 과 Tensorflow로 Mnist 글자인식 구현하기
이번 포스팅에서는 Mnist 데이터를 땡파이썬으로 구현해봄과 동시에 Tensorflow 를 활용하여 구현해 보겠다.
튜토리얼
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
bbc-text.csv 데이터셋을 활용한 BBC 뉴스 아티클 카테고리 분류기 만들기
BBC 뉴스 아티클 묶음 데이터셋인 bbc-text.csv 파일을 활용하여 TensorFlow 의 Tokenizer로 단어 사전을 만들고 자연어 처리 모델 학습을 위한 데이터 전처리를 진행해 보겠습니다. bbc-text.csv 파일을 pandas로 읽어와서 데이터프레임 변환 후 라...
[2023년 업데이트] 구글 텐서플로 개발자 자격인증 시험을 위한 환경설치(PyCharm, 필요 라이브러리 설치)
본 포스팅은 Google TensorFlow Developers Certificate 자격인증 시험을 위한 환경설치를 위한 내용입니다.
[pytorch] 변환(Transform)을 활용한 이미지 증강(Image Augmentation) 적용
데이터 증강(Data Augmentation)은 학습을 위한 데이터에 변형을 가하여 데이터의 규모를 키울 뿐만 아니라, 데이터에 대한 변형된 다양한 케이스를 학습하게 만들 수 있는 좋은 수단 중 하나입니다. 또한, 모델이 과적합(overfitting) 되는 것을 방지해주는 효과도 ...
PyTorch 심층신경망(DNN) 모델 생성 후 Fashion MNIST 이미지 분류기 생성, 학습, 예측, 검증 성능 측정하기
PyTorch 심층신경망(Deep Neural Network) 모델을 생성하고 PyTorch의 내장 데이터셋인 Fashion MNIST 데이터셋을 로드하여 이미지 분류기를 생성, 학습, 예측, 검증 성능 측정하는 방법을 알아보겠습니다.
PyTorch의 자동미분(AutoGrad)을 활용하여 정형 데이터 예측기(regression model)구현
이번 튜토리얼에서는 scikit-learn의 내장 데이터셋인 보스톤 주택 가격 데이터셋을 활용하여 회귀 예측 모델(regression model)을 만들고 예측해 보도록 하겠습니다.
PyTorch의 자동미분(AutoGrad)기능과 경사하강법(Gradient Descent) 구현
이번 포스팅에서는 PyTorch의 자동미분(AutoGrad) 기능을 활용하여 경사하강법 알고리즘을 직접 구현해보고 손실(loss) 값과 weights, bias의 변화량을 시각화해 보겠습니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
캐글 노트북(Kaggle Notebook) 도커에 한글 자연어처리 패키지를 추가한 딥러닝 도커 배포, 설치 및 실행
캐글 노트북(Kaggle Notebook) 커널로도 유명한 도커인 Kaggle/docker-python의 GPU Docker(gpu.Dockerfile)를 기반으로 구성하였습니다. Kaggle에서 공개한 도커 이미지는 한글 폰트, 자연어처리 패키지, 형태소 분석기 등이 누락되어 있...
#11-파이썬(Python) 패키지(package)와 모듈(module)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 패키지(package)와 모듈(module)을 다룹니다.
#10-파이썬(Python) 내장함수-map, zip, filter, enumerate
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 내장함수(built-in function) 중 map(), zip(), filter(), enumerate()를 다룹니다.
#09-파이썬(Python) 함수, lambda 함수, 인수(arguments), 매개변수(parameters)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 함수(function), lambda 함수, 인수(arguments)와 매개변수(parameters)를 다룹니다.
#08-파이썬(Python) 컴프리헨션(Comprehension)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 컴프리헨션(Comprehension)을 다룹니다.
#07-파이썬(Python) 반복문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#06-파이썬(Python) 비교, 논리, 삼항연산자와 조건문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#05-파이썬(Python) 연산
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#04-파이썬(Python) 문자열(str)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#03-파이썬(Python) 세트(set)와 딕셔너리(dictionary)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 세트(set)와 딕셔너리(dictionary)를 다룹니다.
#02-파이썬(Python) 리스트(list)와 튜플(tuple)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 리스트(list)와 튜플(tuple)을 다룹니다.
넘파이(Numpy) 튜토리얼
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 수치계산용 라이브러리인 넘파이(numpy) 를 다룹니다.
#01-파이썬(Python) 기본 자료구조
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
깃헙(GitHub) 웹사이트 기능들로 GitHub 입문하기
Git, GitHub은 프로젝트의 협업을 위해서 꼭 필요한 소스코드 형상 관리 시스템입니다. 형상 관리 시스템은 소스코드의 버전 관리 시스템이라고도 불리웁니다. 다수의 인원이 하나의 프로젝트를 진행할 때, 소스코드의 충돌을 효율적으로 해결하고, 업데이트되는 사항들을 병합해주기도 ...
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
Seaborn의 통계 차트 및 데이터 시각화 예제
seaborn은 matplotlib의 상위 호환 데이터 시각화를 위한 라이브러리입니다. seaborn패키지는 데이터프레임으로 다양한 통계 지표를 낼 수 있는 시각화 차트를 제공하기 때문에 데이터 분석에 활발히 사용되고 있는 라이브러리입니다.
Matplotlib을 활용한 데이터 시각화 그래프 예제
데이터 시각화를 위한 라이브러리인 matplotlib 의 주요 그래프와 세부 옵션들에 대하여 알아보는 튜토리얼입니다.
matplotlib.pyplot 기본 튜토리얼, 스타일, 캔버스
본 튜토리얼은 matplotlib의 가장 기본적인 튜토리얼을 제공합니다.
pytorch
[pytorch] Seq2Seq with Attention 구현 및 한 줄씩 코드 설명
이번 포스팅에서는 Attention 메카니즘이 적용된 Seq2Seq 모델을 pytorch로 구현하고, 코드 한 줄씩 직접 shape를 찍어보고 확인하면서 구현된 코드 통해 동작 원리와 Attention 구조를 이해해 보도록 하겠습니다.
[pytorch] Seq2Seq 으로 챗봇 만들기 (코드 구현)
이번 튜토리얼에서는 seq2seq 모델을 pytorch로 구현하고 한글 챗봇 데이터를 학습시켜 추론해 보는 단계까지 진행해 보도록 하겠습니다.
[pytorch] GRU 입력 텐서와 출력 텐서의 shape 이해
이번에는 지난 LSTM 입력 텐서와 출력 텐서의 shape 이해 의 후속편으로써, pytorch의 GRU layer의 입출력 텐서의 shape에 대하여 이해해 보고 세부 옵션에 대하여 자세히 알아보도록 하겠습니다.
[pytorch] LSTM 입력 텐서와 출력 텐서의 shape 이해
pytorch에서 LSTM 입출력 텐서의 shape 때문에 애를 먹었습니다. 입출력 텐서의 shape에 대해서 명확히 인지하고 있어야 모델 구성시 에러를 최소화 할 수 있습니다.
WandB 를 활용하여 모델의 학습을 추적하는 방법
WandB는 weights and biases 의 약어입니다. 머신러닝을 하시는 분들은 weights & biases 와 굉장히 친숙할텐데요. WandB의 네이밍에서 알 수 있듯이 모델이 학습할 때 실험 결과를 저장 및 시각화, 하이퍼파라미터를 저장, 모델 뿐만아니라 시스템...
[pytorch] Early Stopping 조기종료 구현 및 적용
조기 종료(Early Stopping)는 학습시 일정기간(여기서 기간은 보통 N번의 Epoch을 기준으로 합니다)동안 Loss 나 Score 기준으로 개선이 일어나지 않으면 학습을 조기에 종료해 주는 기능입니다. 만약, 20번의 Epoch 동안 학습이 진행한다고 가정했을 때, 아래...
torchtext를 활용한 텍스트 데이터 전처리 방법
torchtext는 pytorch 모델에 주입하기 위한 텍스트 데이터셋을 구성하기 편하게 만들어 주는 데이터 로더(Data Loader) 입니다. torchtext 를 활용하여 CSV, TSV, JSON 등의 정형 데이터셋을 쉽게 로드하도록 도와주는 TabularDataset 클래...
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
[huggingface] 한글 pre-trained 사전학습 BERT 모델로 텍스트 분류하기
이번 포스팅에서는 Huggingface의 한글 데이터셋으로 사전 학습된 kykim/bert-kor-base 모델을 가져와서 한글 자연어 데이터에 대한 텍스트 분류기를 만들어 보겠습니다. 이미지넷에서는 전이학습을 통해 손쉽게 Transfer Learning을 수행할 수 있습니다. ...
GoogLeNet의 Inception Module, 1x1 컨볼루션의 의미와 구현
Going Deeper with Convolutions(2015) Inception 모듈에 대한 내용입니다. 해당 논문에서는 Inception Module이라는 새로운 neural network architecture 를 공개하였습니다. 논문의 제목과 같이 Going Deeper ...
[pytorch] 변환(Transform)을 활용한 이미지 증강(Image Augmentation) 적용
데이터 증강(Data Augmentation)은 학습을 위한 데이터에 변형을 가하여 데이터의 규모를 키울 뿐만 아니라, 데이터에 대한 변형된 다양한 케이스를 학습하게 만들 수 있는 좋은 수단 중 하나입니다. 또한, 모델이 과적합(overfitting) 되는 것을 방지해주는 효과도 ...
AlexNet Implementation(구현) by PyTorch
AlexNet(2012) 의 PyTorch 구현 입니다. 논문에 대한 세부 인사이트는 생략하며, 오직 코드 구현만 다룹니다.
PyTorch Dataset을 상속받은 사용자 정의 이미지 데이터셋(CustomImageDataset) 구성하기
이번 튜토리얼에서는 torch.utils.data.Dataset을 상속 받아 사용자 정의 이미지 데이터셋을 구성하고, 이를 활용하여 DataLoader를 구성하는 방법에 대하여 알아보겠습니다.
PyTorch 전이학습(transfer learning)과 미세조정(fine tuning)으로 이미지 분류기 생성, 예측, 검증성능 평가하기
PyTorch의 사전 학습된 모델(pretrained model)을 로드하여 전이학습(transfer learning)을 통해 모델 생성, 학습, 예측 및 검증 성능을 측정해 보도록 하겠습니다.
PyTorch 로컬이미지 로드(ImageFolder) 후, DataLoader 생성 및 CNN이미지 분류 모델 생성, 학습, 검증 성능 측정하기
로컬 이미지 폴더에서 ImageFolder를 사용하여 이미지 데이터셋을 로드하고, CNN으로 구성된 모델을 생성, 학습, 예측, 검증 성능을 측정하는 방법을 알아보겠습니다.
PyTorch 심층신경망(DNN) 모델 생성 후 Fashion MNIST 이미지 분류기 생성, 학습, 예측, 검증 성능 측정하기
PyTorch 심층신경망(Deep Neural Network) 모델을 생성하고 PyTorch의 내장 데이터셋인 Fashion MNIST 데이터셋을 로드하여 이미지 분류기를 생성, 학습, 예측, 검증 성능 측정하는 방법을 알아보겠습니다.
PyTorch 정형데이터를 CustomDataset으로 서브클래싱(SubClassing)한 후 예측 모델 생성 및 학습하기
정형데이터셋을 로드하여 PyTorch의 torch.utils.data.Dataset을 상속받아 커스텀 데이터셋(CustomDataset)을 서브클래싱(SubClassing)으로 정의하고, 이를 torch.utils.data.DataLoader에 주입하여 배치구성을 한 뒤, 모델 학...
PyTorch의 자동미분(AutoGrad)을 활용하여 정형 데이터 예측기(regression model)구현
이번 튜토리얼에서는 scikit-learn의 내장 데이터셋인 보스톤 주택 가격 데이터셋을 활용하여 회귀 예측 모델(regression model)을 만들고 예측해 보도록 하겠습니다.
PyTorch의 자동미분(AutoGrad)기능과 경사하강법(Gradient Descent) 구현
이번 포스팅에서는 PyTorch의 자동미분(AutoGrad) 기능을 활용하여 경사하강법 알고리즘을 직접 구현해보고 손실(loss) 값과 weights, bias의 변화량을 시각화해 보겠습니다.
torchvision의 transform으로 이미지 정규화하기(평균, 표준편차를 계산하여 적용)
딥러닝 모델이 이미지를 학습하기 전 이미지 정규화를 진행하는 것은 일반적으로 수행하는 전처리 입니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
Tensorflow, Keras, Pytorch GPU 사용여부 체크하기
딥러닝 프레임워크에서 GPU 사용여부를 체크할 수 있는 API에 대하여 알려드리도록 하겠습니다.
[pytorch] MNIST dataset loading 하기
pytorch 에서 각 종 Datasets에 대하여 제공해줍니다.
Conv2d layer를 겹겹이 쌓을 때 최종 output volume 계산법
이번 포스팅에서는 torch 를 이용하여 CNN(Convolution Neural Network) 에서 convolution layer를 겹겹이 쌓았을 때 최종 output volume size를 구하는 방법에 대하여 알아 보겠습니다.
machine learning
[2023년 업데이트] 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 - 데이터분석편
지난 2020년에 작성한 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (1), 글과 후속 글인 데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (2) 을 많이 읽어 주셔서 감사드립니다. 작성 당시에는 가벼운 마음으로 개인...
베이지안 최적화에 기반한 HyperOpt를 활용한 하이퍼 파라미터 튜닝
Baysian Optimization 기반한 하이퍼파라미터 튜닝 라이브러리인 HyperOpt 에 대하여 다뤄보도록 하겠습니다.
머신러닝 실전 앙상블 (Ensemble)과 Hyperparameter 튜닝
머신러닝 알고리즘의 끝판왕인 앙상블(Ensemble) 알고리즘에 대하여 알아보도록 하겠습니다. 앙상블 알고리즘은 방법론 적인 측면에서 Voting, Bagging, Boosting 알고리즘등으로 나뉠 수 있겠고, 앙상블의 앙상블 알고리즘인 Stacking 그리고 Weighted B...
의사결정 나무 (Decision Tree)와 Entropy, 그리고 Gini 계수
Decision Tree는 Random Forest Ensemble 알고리즘의 기본이 되는 알고리즘이며, Tree 기반 알고리즘입니다. 의사결정나무 혹은 결정트리로 불리우는 이 알고리즘은 머신러닝의 학습 결과에 대하여 시각화를 통한 직관적인 이해가 가능하다는 것이 큰 장점입니다. ...
로지스틱회귀(Logistic Regression)와 분류 평가 지표 (Precision, Recall, F1 Score)
Logistic Regression은 선형 알고리즘에 Sigmoid Function 이 결합된 분류 알고리즘 입니다. 알고리즘 이름 뒷부분에 Regression 이 붙기 때문에 흔하게 회귀 알고리즘으로 착각할 수 있지만 분류 알고리즘 입니다.
Lasso, Ridge, ElasticNet-L1, L2규제를 적용한 선형 알고리즘
선형 알고리즘에 기반한 알고리즘에 대해서 알아보고 회귀 (Regression) 문제를 다뤄보도록 하겠습니다. 이번 선형 알고리즘에 기반한 회귀 문제를 다룰 때 L1, L2 규제의 개념이 등장합니다. L1, L2 규제는 딥러닝까지 쭉 이어지는 개념이고, 앞으로 머신러닝/딥러닝 학습시...
최근접 이웃 (KNN) 알고리즘을 활용한 분류
K-Nearest Neighbors 이른바, 최근접 이웃 분류 알고리즘을 활용한 간단한 머신러닝 분류 문제를 풀어보도록 하겠습니다. 알고리즘은 동작 원리는 매우 직관적이고 단순 합니다. 이해는 어렵지 않으나, 복잡한 분류 문제에 있어서는 모델의 성능에 대한 큰 기대를 하기 어렵습니...
scikit-learn 데이터 전처리
데이터 전처리는 데이터 분석 및 머신러닝 학습을 위해서 매우 중요한 단계 입니다. 실무 프로젝트에서는 전체 프로젝트 기간 중 평균 50~70% 이상 시간을 전처리 및 EDA에 투자한다고 합니다. 그만큼 좋은 전처리를 하면 할수록 좋은 성능을 내는 머신러닝 모델을 만들 수 있습니다.
scikit-learn 데이터셋(dataset) 다루기
scikit-learn의 패키지에 포함된 dataset 패키지에서 Toy Dataset을 로딩하여 학습해 보는 튜토리얼입니다.
최소제곱법 (Ordinary Least Squares) 과 선형회귀 알고리즘 (Linear Regression)
이번 포스팅에서는 최소제곱법(Least Ordinary Sqaures)의 Python 코드 구현과 scikit-learn의 LinearRegression을 활용하여 회귀(Regression) 예측까지 해보겠습니다.
데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (2)
데이터 분석과 인공지능을 공부하려는 분들께 국내 서적을 기준으로 목적에 맞는 책과 공부를 해왔던 경험담에 대하여 공유드리고자 합니다. 데이터 분석 및 인공지능에 관심있는 분들께 도움이 되셨으면 좋겠습니다.
데이터 분석/인공지능을 공부하려는 분들께 경험을 토대로 학습 방법과 책 추천 (1)
데이터 분석과 인공지능을 공부하려는 분들께 국내 서적을 기준으로 목적에 맞는 책과 공부를 해왔던 경험담에 대하여 공유드리고자 합니다. 데이터 분석 및 인공지능에 관심있는 분들께 도움이 되셨으면 좋겠습니다.
train_test_split 모듈을 활용하여 학습과 테스트 세트 분리
사이킷런(scikit-learn)의 model_selection 패키지 안에 train_test_split 모듈을 활용하여 손쉽게 train set(학습 데이터 셋)과 test set(테스트 셋)을 분리할 수 있습니다. 이번 포스팅에서는 train_test_split 에 대해 자세...
카테고리형 데이터를 수치형으로 변환하기 (LabelEncoder와 Categorical dtype)
카테고리형 데이터(Categorical Data)를 수치형 데이터(Numerical Data)로 변환해주는 작업은 머신러닝 모델을 돌려보기 위해서 필수로 해줘야하는 전처리 작업입니다.
PCA 를 활용한 차원축소
Principal Component Analysis는 대표적인 Linear 차원 축소 기법입니다.
Tree기반 모델(DecisionTree, RandomForest)의 분할 그래프 시각화하기 (graphviz)
Tree 기반 모델은 RandomForest 모델때문에 참 인기있게 활용되는 알고리즘 입니다. RandomForest 모델은 데이터 분석 대회인 캐글에서도 활발히 활용되고 있으며, 성능이 좋을 뿐만아니라 쉽고 간편하게 사용할 수 있기 때문에 저 또한 데이터 분석 대회에서 basel...
GridSearch를 이용한 머신러닝 Hyperparameter 튜닝
Hyperparameter 튜닝을 위해서는 다양한 방법론이 존재합니다. 가장 쉬운 방법으로는 일명 손튜닝이 있을 수 있겠구요. RandomSearch, GridSearch, HyperOpt등 다양한 방법으로 Hyperparameter를 튜닝할 수 있습니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(3) - Boosting
Boosting 알고리즘 역시 앙상블 학습 (ensemble learning)이며, 약한 학습기를 순차적으로 학습을 하되, 이전 학습에 대하여 잘못 예측된 데이터에 가중치를 부여해 오차를 보완해 나가는 방식입니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(2) - Bagging
Bagging 기반의 앙상블(ensemble) 기법은 이미 널리 사용되고 있는 랜덤포레스트(RandomForest) 알고리즘이 바로 그 대표적인 예 입니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(1) - Voting
Kaggle의 상위 솔루션들만 봐도 알겠지만, 단일 모델로는 어느 정도 성능을 극으로 끌어올리기는 한계가 있습니다. 그렇기 때문에 거의 모든 상위권에 랭크되는 솔루션들을 살펴보면 앙상블 학습(emsemble learning)으로 랭크를 올리는 모습을 볼 수 있습니다. 이번 포스팅에...
Kaggle(캐글) 타이타닉 생존자 예측 81% 이상 달성하기
캐글(Kaggle)의 대표적인 입문용 데이터 분석 경진대회인 타이타닉 생존자 예측 (Titanic: Machine Learning from Disaster) 에서 81% 이상의 정확도를 기록하여 상위 5% 안에 들 수 있는 Solution을 공유하고자 합니다.
sklearn의 K-Nearest Neighbors 분류기를 활용하여 Iris 꽃 종류 분류하기 (Classifier)
K-최근접 이웃 (K-Nearest Neighbors) 알고리즘은 분류(Classifier)와 회귀(Regression)에 모두 쓰입니다. 처음 접하는 사람들도 이해하기 쉬운 알고리즘이며, 단순한 데이터를 대상으로 분류나 회귀를 할 때 사용합니다.
sklearn.datasets 모듈을 활용하여 샘플데이터 로딩하기
sklearn.datasets 모듈에는 대표적인 sample dataset들을 제공하고 손쉽게 다운로드 및 로딩할 수 있습니다.
sklearn 라이브러리를 활용한 mnist 손글씨 10분만에 70,000개 분류하기
sklearn라이브러리(scikit-learn)는 machine learning을 하기 위하여 필요한 막강한 라이브러리입니다.
sklearn의 KMeans 모듈을 활용한 뉴스 클러스터링
하루에도 수만개의 뉴스기사가 쏟아져 나옵니다. 수많은 뉴스기사들을 중복되거나 매우 유사도가 높은 기사들은 구독자에게 중복되게 노출시키지 않기 위해서 뉴스기사를 서비스 하고 있는 포털 사이트나 언론사에서도 뉴스기사 클러스터링 기법을 사용하고 있습니다.
Tensorflow를 활용하여 Mnist data classification을 CNN으로 구현
이번 포스팅에서는 Google Tensorflow의 웹사이트의 Demo에 나와 있는 가이드라인에 따라, tensorflow 라이브러리를 활용하여 구현해 보도록 하겠습니다.
Pandas와 scikit-learn으로 정말 간단한 pre-processing 몇 가지 팁
캐글 (Kaggle) 의 Titanic: Machine Learning from Disaster 의 train 데이터를 활용해 간단한 시각화 및 빠진 데이터 pre-processing 그리고 간단한 Normalization까지 해보도록 하겠습니다. Train 데이터는 윗 줄의 링크...
Machine Learning - Single Layer NN과 Multi Layer NN으로 XOR문제 다뤄보기
Single-Layer Neural Network 에서 풀 수 없는 문제인 XOR Problem을 Tensorflow를 활용하여 Multi-Layer Neural Network로 구현해 보도록 하겠다.
Simple Gradient Descent on predicting Boston Housing
SImple Gradient Descent implementations Examples
tutorial
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
bbc-text.csv 데이터셋을 활용한 BBC 뉴스 아티클 카테고리 분류기 만들기
BBC 뉴스 아티클 묶음 데이터셋인 bbc-text.csv 파일을 활용하여 TensorFlow 의 Tokenizer로 단어 사전을 만들고 자연어 처리 모델 학습을 위한 데이터 전처리를 진행해 보겠습니다. bbc-text.csv 파일을 pandas로 읽어와서 데이터프레임 변환 후 라...
[2023년 업데이트] 구글 텐서플로 개발자 자격인증 시험을 위한 환경설치(PyCharm, 필요 라이브러리 설치)
본 포스팅은 Google TensorFlow Developers Certificate 자격인증 시험을 위한 환경설치를 위한 내용입니다.
[pytorch] 변환(Transform)을 활용한 이미지 증강(Image Augmentation) 적용
데이터 증강(Data Augmentation)은 학습을 위한 데이터에 변형을 가하여 데이터의 규모를 키울 뿐만 아니라, 데이터에 대한 변형된 다양한 케이스를 학습하게 만들 수 있는 좋은 수단 중 하나입니다. 또한, 모델이 과적합(overfitting) 되는 것을 방지해주는 효과도 ...
PyTorch 심층신경망(DNN) 모델 생성 후 Fashion MNIST 이미지 분류기 생성, 학습, 예측, 검증 성능 측정하기
PyTorch 심층신경망(Deep Neural Network) 모델을 생성하고 PyTorch의 내장 데이터셋인 Fashion MNIST 데이터셋을 로드하여 이미지 분류기를 생성, 학습, 예측, 검증 성능 측정하는 방법을 알아보겠습니다.
PyTorch의 자동미분(AutoGrad)을 활용하여 정형 데이터 예측기(regression model)구현
이번 튜토리얼에서는 scikit-learn의 내장 데이터셋인 보스톤 주택 가격 데이터셋을 활용하여 회귀 예측 모델(regression model)을 만들고 예측해 보도록 하겠습니다.
PyTorch의 자동미분(AutoGrad)기능과 경사하강법(Gradient Descent) 구현
이번 포스팅에서는 PyTorch의 자동미분(AutoGrad) 기능을 활용하여 경사하강법 알고리즘을 직접 구현해보고 손실(loss) 값과 weights, bias의 변화량을 시각화해 보겠습니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
캐글 노트북(Kaggle Notebook) 도커에 한글 자연어처리 패키지를 추가한 딥러닝 도커 배포, 설치 및 실행
캐글 노트북(Kaggle Notebook) 커널로도 유명한 도커인 Kaggle/docker-python의 GPU Docker(gpu.Dockerfile)를 기반으로 구성하였습니다. Kaggle에서 공개한 도커 이미지는 한글 폰트, 자연어처리 패키지, 형태소 분석기 등이 누락되어 있...
#11-파이썬(Python) 패키지(package)와 모듈(module)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 패키지(package)와 모듈(module)을 다룹니다.
#10-파이썬(Python) 내장함수-map, zip, filter, enumerate
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 내장함수(built-in function) 중 map(), zip(), filter(), enumerate()를 다룹니다.
#09-파이썬(Python) 함수, lambda 함수, 인수(arguments), 매개변수(parameters)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 함수(function), lambda 함수, 인수(arguments)와 매개변수(parameters)를 다룹니다.
#08-파이썬(Python) 컴프리헨션(Comprehension)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 컴프리헨션(Comprehension)을 다룹니다.
#07-파이썬(Python) 반복문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#06-파이썬(Python) 비교, 논리, 삼항연산자와 조건문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#05-파이썬(Python) 연산
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#04-파이썬(Python) 문자열(str)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#03-파이썬(Python) 세트(set)와 딕셔너리(dictionary)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 세트(set)와 딕셔너리(dictionary)를 다룹니다.
#02-파이썬(Python) 리스트(list)와 튜플(tuple)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 리스트(list)와 튜플(tuple)을 다룹니다.
넘파이(Numpy) 튜토리얼
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 수치계산용 라이브러리인 넘파이(numpy) 를 다룹니다.
#01-파이썬(Python) 기본 자료구조
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
[tensorflow] RNN Text 생성 (셰익스피어 글 생성)
텐서플로우 공식 튜토리얼인 순환 신경망을 활용한 문자열 생성에 대한 클론 코드입니다. 셰익스피어 글 데이터셋을 활용하여 인공지능 모델을 학습시키고, 셰익스피어 스타일의 글을 생성할 수 있는 모델을 만들어 보도록 하겠습니다.
깃헙(GitHub) 웹사이트 기능들로 GitHub 입문하기
Git, GitHub은 프로젝트의 협업을 위해서 꼭 필요한 소스코드 형상 관리 시스템입니다. 형상 관리 시스템은 소스코드의 버전 관리 시스템이라고도 불리웁니다. 다수의 인원이 하나의 프로젝트를 진행할 때, 소스코드의 충돌을 효율적으로 해결하고, 업데이트되는 사항들을 병합해주기도 ...
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
파이썬
파이썬, 데이터분석가를 위한 초간단 파일공유 서비스
본 내용은 자체 제작한 파일공유 서비스에 대한 내용입니다. 말그대로 파일을 가장 쉬운 방법으로 공유할 수 있는 서비스이며, 링크를 활용하여 공유할 수 있습니다. Python, wget 명령어로 다운로드 받는 코드를 제공하며, 비밀번호로 암호화 하여 공유도 가능합니다.
나만의 파이썬 패키지(PYPI) 만들기 및 등록하고 배포하기
PYPI는 Python Package Index의 약어로 Python 패키지 저장소의 개념으로 생각하시면 됩니다. 수 많은 개발자들이 본인이 만든 파이썬 소프트웨어를 손쉽게 설치하고 활용할 수 있도록 패키지화 하여 저장소에 업로드를 하는데요. 저장소에 업로드된 패키지를 pip in...
실리콘(M1, M2) 맥(Mac) OS 에서 텐서플로(TensorFlow) 설치 방법
실리콘(M1, M2) 맥(Mac) 사용하는 유저가 최근 1~2년 안에 급격하게 늘어나면서, m1, m2 칩셋을 사용하는 맥 사용자를 위한 가상 환경 설치와 TensorFlow 설치에 대한 문의가 많았습니다. 아쉽게도 그동안 제가 실리콘 맥이 없어 직접 테스트를 해볼 수 없었기 때문...
Google Cloud API를 활용하여 주소의 위도, 경도 정보 가져오기
Google Cloud API 의 Geocoding API를 활용하여 한글 주소를 위/경도 좌표계로 변경해 보는 방법에 대하여 알아보겠습니다.
지도 시각화 도구 Folium 사용법을 파헤쳐보자!
지도위에 데이터를 interactive하게 표현해 주는 대표적인 파이썬 지도 시각화 라이브러리 folium에 대해서 알아보고 그 사용법을 파헤쳐보도록 하겠습니다.
코사인 유사도(cosine similarity)로 과거 주가의 유사 패턴을 찾아 미래 예측하기
주가의 과거 패턴을 찾아 미래를 예측하는 것이 가능할까요?
파이썬 딥러닝 텐서플로 책이 출간되었습니다!
지난 6개월간 동료 3명과 집필한 “파이썬 딥러닝 텐서플로” 책이 드디어 온라인/오프라인 출간 되었습니다!!!
#11-파이썬(Python) 패키지(package)와 모듈(module)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 패키지(package)와 모듈(module)을 다룹니다.
#10-파이썬(Python) 내장함수-map, zip, filter, enumerate
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 내장함수(built-in function) 중 map(), zip(), filter(), enumerate()를 다룹니다.
#09-파이썬(Python) 함수, lambda 함수, 인수(arguments), 매개변수(parameters)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 함수(function), lambda 함수, 인수(arguments)와 매개변수(parameters)를 다룹니다.
#08-파이썬(Python) 컴프리헨션(Comprehension)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬의 컴프리헨션(Comprehension)을 다룹니다.
#07-파이썬(Python) 반복문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#06-파이썬(Python) 비교, 논리, 삼항연산자와 조건문
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다.
#05-파이썬(Python) 연산
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#04-파이썬(Python) 문자열(str)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
#03-파이썬(Python) 세트(set)와 딕셔너리(dictionary)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 세트(set)와 딕셔너리(dictionary)를 다룹니다.
#02-파이썬(Python) 리스트(list)와 튜플(tuple)
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 이번 튜토리얼에서는 파이썬 리스트(list)와 튜플(tuple)을 다룹니다.
#01-파이썬(Python) 기본 자료구조
본 포스팅은 파이썬(Python) 코딩 입문자를 위한 튜토리얼 시리즈 연재 중 일부입니다. 파이썬에 대한 기본 지식을 다룹니다.
처음 만나는 AI수학 with 파이썬 책 리뷰 - 수포자, 비전공자를 위한 수학
이번 포스팅에서는 처음 만나는 AI수학 with 파이썬 책 리뷰를 해보도록 하겠습니다.
Python 클래스의 상속 (inheritance)
텐서플로의 Model Subclassing 구현을 위해서는 python의 상속(inheritance) 개념을 필히 알고 있어야 합니다. 그래서, 이번 포스팅에서는 python의 클래스 그리고 상속에 대한 내용을 다뤄 보도록 하겠습니다.
Google Colab에서 python 패키지를 영구적(permanently)으로 설치하는 방법
Colab에서 영구적(permanently)으로 파이썬 패키지를 설치(install) 하는 방법에 대하여 공유드리고자 합니다.
python의 built-in function인 lambda, map, filter, 그리고 reduce에 대한 쉬운 이해와 사용법
lambda, map, filter 그리고 reduce는 python 코딩에서 자주 활용되는 대표적인 built-in function입니다. (reduce는 python3에서 built-in에서는 제거되었습니다)
뉴스 기사 와 RSS 피드에서 손쉽게 크롤링 하여 정보 수집하기
최근 뉴스 기사를 크롤링하여 군집화 하는 작업을 하기 위해서, 국내 신문기사의 정보들을 크롤링해야하는 작업이 필요하였습니다. request와 BeautifulSoup4를 사용해서 크롤링하는 것은 간단하지만, 언론사 웹사이트 별로 기사의 contents를 표시하는 tag와 class...
python의 pickle 기능을 활용하여 data를 저장하고 불러오는 방법
큰 용량의 dataset을 다루다 보면, 중간에 binary file 형태로 저장하고, 이를 나중에 불러와야하는 경우가 있습니다.
Data Science (데이터 분석)을 위한 python package 리스트(2) - 시각화
Data 분석시 유용하게 쓰이는 시각화 관련 파이썬 라이브러리에 대하여 알아보겠습니다.
Data Science (데이터 분석)을 위한 python package 리스트(1) - 필수 패키지
Python을 활용한 Data Science, 즉 더 구체적으로 얘기하자면, 데이터 분석을 할 때는 다양한 패키지들을 활용하게 됩니다. 초기에 가상환경을 여러개 만들어 놓고 상황에 맞춰 돌아가면서 쓸 수 있습니다.
jupyter notebook remote 접속 허용 설정
Jupyter Notebook을 원격에서 접속하려고 할 때 셋팅하는 방법에 대해 알아보겠습니다.
python django 프로젝트를 아마존(aws) ec2 인스턴스에 생성 및 원격접속
python 으로 django 프로젝트를 생성해서 작업할 일이 생겼다. 로컬에서 작업하는 것보다 amazon aws에 ec2 인스턴스에 셋팅을 한 뒤에 Visual Studio Code의 ftp-simple 플러그인을 활용해서 remote workplace에서 작업을 해보기로 결정...
머신러닝
베이지안 최적화에 기반한 HyperOpt를 활용한 하이퍼 파라미터 튜닝
Baysian Optimization 기반한 하이퍼파라미터 튜닝 라이브러리인 HyperOpt 에 대하여 다뤄보도록 하겠습니다.
머신러닝 실전 앙상블 (Ensemble)과 Hyperparameter 튜닝
머신러닝 알고리즘의 끝판왕인 앙상블(Ensemble) 알고리즘에 대하여 알아보도록 하겠습니다. 앙상블 알고리즘은 방법론 적인 측면에서 Voting, Bagging, Boosting 알고리즘등으로 나뉠 수 있겠고, 앙상블의 앙상블 알고리즘인 Stacking 그리고 Weighted B...
의사결정 나무 (Decision Tree)와 Entropy, 그리고 Gini 계수
Decision Tree는 Random Forest Ensemble 알고리즘의 기본이 되는 알고리즘이며, Tree 기반 알고리즘입니다. 의사결정나무 혹은 결정트리로 불리우는 이 알고리즘은 머신러닝의 학습 결과에 대하여 시각화를 통한 직관적인 이해가 가능하다는 것이 큰 장점입니다. ...
로지스틱회귀(Logistic Regression)와 분류 평가 지표 (Precision, Recall, F1 Score)
Logistic Regression은 선형 알고리즘에 Sigmoid Function 이 결합된 분류 알고리즘 입니다. 알고리즘 이름 뒷부분에 Regression 이 붙기 때문에 흔하게 회귀 알고리즘으로 착각할 수 있지만 분류 알고리즘 입니다.
Lasso, Ridge, ElasticNet-L1, L2규제를 적용한 선형 알고리즘
선형 알고리즘에 기반한 알고리즘에 대해서 알아보고 회귀 (Regression) 문제를 다뤄보도록 하겠습니다. 이번 선형 알고리즘에 기반한 회귀 문제를 다룰 때 L1, L2 규제의 개념이 등장합니다. L1, L2 규제는 딥러닝까지 쭉 이어지는 개념이고, 앞으로 머신러닝/딥러닝 학습시...
최근접 이웃 (KNN) 알고리즘을 활용한 분류
K-Nearest Neighbors 이른바, 최근접 이웃 분류 알고리즘을 활용한 간단한 머신러닝 분류 문제를 풀어보도록 하겠습니다. 알고리즘은 동작 원리는 매우 직관적이고 단순 합니다. 이해는 어렵지 않으나, 복잡한 분류 문제에 있어서는 모델의 성능에 대한 큰 기대를 하기 어렵습니...
scikit-learn 데이터 전처리
데이터 전처리는 데이터 분석 및 머신러닝 학습을 위해서 매우 중요한 단계 입니다. 실무 프로젝트에서는 전체 프로젝트 기간 중 평균 50~70% 이상 시간을 전처리 및 EDA에 투자한다고 합니다. 그만큼 좋은 전처리를 하면 할수록 좋은 성능을 내는 머신러닝 모델을 만들 수 있습니다.
scikit-learn 데이터셋(dataset) 다루기
scikit-learn의 패키지에 포함된 dataset 패키지에서 Toy Dataset을 로딩하여 학습해 보는 튜토리얼입니다.
경사하강법 (Gradient Descent) 직접 구현하기
이번에는 머신러닝 뿐만아니라, 인공신경망 모델의 가장 기초가 되는 경사하강법 (Gradient Descent)에 대하여 알아보도록 하겠습니다. 경사하강법을 Python으로 직접 구현해보는 튜토리얼 입니다. 자세한 설명은 유튜브 영상을 참고해 보셔도 좋습니다.
최소제곱법 (Ordinary Least Squares) 과 선형회귀 알고리즘 (Linear Regression)
이번 포스팅에서는 최소제곱법(Least Ordinary Sqaures)의 Python 코드 구현과 scikit-learn의 LinearRegression을 활용하여 회귀(Regression) 예측까지 해보겠습니다.
입문자를 위한 데이터분석 포트폴리오 완성, 캡스톤프로젝트를 진행합니다.
이번 글은 국내 최고 성인 실무교육 기관인 패스트캠퍼스와 협력하여 지난 3개월간의 고민 끝에 드디어 런칭을 앞두고 있는 데이터분석 캡스톤 프로젝트에 대하여 시작하게 된 배경과 최종 목표에 대하여 공유하고자 합니다.
train_test_split 모듈을 활용하여 학습과 테스트 세트 분리
사이킷런(scikit-learn)의 model_selection 패키지 안에 train_test_split 모듈을 활용하여 손쉽게 train set(학습 데이터 셋)과 test set(테스트 셋)을 분리할 수 있습니다. 이번 포스팅에서는 train_test_split 에 대해 자세...
카테고리형 데이터를 수치형으로 변환하기 (LabelEncoder와 Categorical dtype)
카테고리형 데이터(Categorical Data)를 수치형 데이터(Numerical Data)로 변환해주는 작업은 머신러닝 모델을 돌려보기 위해서 필수로 해줘야하는 전처리 작업입니다.
PCA 를 활용한 차원축소
Principal Component Analysis는 대표적인 Linear 차원 축소 기법입니다.
Tree기반 모델(DecisionTree, RandomForest)의 분할 그래프 시각화하기 (graphviz)
Tree 기반 모델은 RandomForest 모델때문에 참 인기있게 활용되는 알고리즘 입니다. RandomForest 모델은 데이터 분석 대회인 캐글에서도 활발히 활용되고 있으며, 성능이 좋을 뿐만아니라 쉽고 간편하게 사용할 수 있기 때문에 저 또한 데이터 분석 대회에서 basel...
GridSearch를 이용한 머신러닝 Hyperparameter 튜닝
Hyperparameter 튜닝을 위해서는 다양한 방법론이 존재합니다. 가장 쉬운 방법으로는 일명 손튜닝이 있을 수 있겠구요. RandomSearch, GridSearch, HyperOpt등 다양한 방법으로 Hyperparameter를 튜닝할 수 있습니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(3) - Boosting
Boosting 알고리즘 역시 앙상블 학습 (ensemble learning)이며, 약한 학습기를 순차적으로 학습을 하되, 이전 학습에 대하여 잘못 예측된 데이터에 가중치를 부여해 오차를 보완해 나가는 방식입니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(2) - Bagging
Bagging 기반의 앙상블(ensemble) 기법은 이미 널리 사용되고 있는 랜덤포레스트(RandomForest) 알고리즘이 바로 그 대표적인 예 입니다.
앙상블 학습(ensemble learning)으로 알고리즘 성능 개선하기(1) - Voting
Kaggle의 상위 솔루션들만 봐도 알겠지만, 단일 모델로는 어느 정도 성능을 극으로 끌어올리기는 한계가 있습니다. 그렇기 때문에 거의 모든 상위권에 랭크되는 솔루션들을 살펴보면 앙상블 학습(emsemble learning)으로 랭크를 올리는 모습을 볼 수 있습니다. 이번 포스팅에...
Kaggle(캐글) 타이타닉 생존자 예측 81% 이상 달성하기
캐글(Kaggle)의 대표적인 입문용 데이터 분석 경진대회인 타이타닉 생존자 예측 (Titanic: Machine Learning from Disaster) 에서 81% 이상의 정확도를 기록하여 상위 5% 안에 들 수 있는 Solution을 공유하고자 합니다.
sklearn의 K-Nearest Neighbors 분류기를 활용하여 Iris 꽃 종류 분류하기 (Classifier)
K-최근접 이웃 (K-Nearest Neighbors) 알고리즘은 분류(Classifier)와 회귀(Regression)에 모두 쓰입니다. 처음 접하는 사람들도 이해하기 쉬운 알고리즘이며, 단순한 데이터를 대상으로 분류나 회귀를 할 때 사용합니다.
sklearn.datasets 모듈을 활용하여 샘플데이터 로딩하기
sklearn.datasets 모듈에는 대표적인 sample dataset들을 제공하고 손쉽게 다운로드 및 로딩할 수 있습니다.
sklearn 라이브러리를 활용한 mnist 손글씨 10분만에 70,000개 분류하기
sklearn라이브러리(scikit-learn)는 machine learning을 하기 위하여 필요한 막강한 라이브러리입니다.
sklearn의 KMeans 모듈을 활용한 뉴스 클러스터링
하루에도 수만개의 뉴스기사가 쏟아져 나옵니다. 수많은 뉴스기사들을 중복되거나 매우 유사도가 높은 기사들은 구독자에게 중복되게 노출시키지 않기 위해서 뉴스기사를 서비스 하고 있는 포털 사이트나 언론사에서도 뉴스기사 클러스터링 기법을 사용하고 있습니다.
Tensorflow를 활용하여 Mnist data classification을 CNN으로 구현
이번 포스팅에서는 Google Tensorflow의 웹사이트의 Demo에 나와 있는 가이드라인에 따라, tensorflow 라이브러리를 활용하여 구현해 보도록 하겠습니다.
Machine Learning - Single Layer NN과 Multi Layer NN으로 XOR문제 다뤄보기
Single-Layer Neural Network 에서 풀 수 없는 문제인 XOR Problem을 Tensorflow를 활용하여 Multi-Layer Neural Network로 구현해 보도록 하겠다.
Simple Gradient Descent on predicting Boston Housing
SImple Gradient Descent implementations Examples
텐서플로
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
bbc-text.csv 데이터셋을 활용한 BBC 뉴스 아티클 카테고리 분류기 만들기
BBC 뉴스 아티클 묶음 데이터셋인 bbc-text.csv 파일을 활용하여 TensorFlow 의 Tokenizer로 단어 사전을 만들고 자연어 처리 모델 학습을 위한 데이터 전처리를 진행해 보겠습니다. bbc-text.csv 파일을 pandas로 읽어와서 데이터프레임 변환 후 라...
실리콘(M1, M2) 맥(Mac) OS 에서 텐서플로(TensorFlow) 설치 방법
실리콘(M1, M2) 맥(Mac) 사용하는 유저가 최근 1~2년 안에 급격하게 늘어나면서, m1, m2 칩셋을 사용하는 맥 사용자를 위한 가상 환경 설치와 TensorFlow 설치에 대한 문의가 많았습니다. 아쉽게도 그동안 제가 실리콘 맥이 없어 직접 테스트를 해볼 수 없었기 때문...
[AI SPARK 챌린지] 수도관 누수 탐지 분류 문제 베이스라인 코드! (오디오 파일 전처리)
얼마전 연구개발특구진흥재단에서 주최하고 AIFactory에서 주관한 [AI SPARK 챌린지] 대회2. 수도관 누수 탐지 분류 문제에 대하여 베이스라인 코드를 잡아봤습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
[tensorflow] 함수형 (Functional) API 모델링
본 튜토리얼은 TensorFlow Advanced Technique 시리즈의 일부 내용을 발췌하였습니다.
Attention을 활용한 Seq2Seq 모델 생성과 데이터셋 구성
이번 포스팅에서는 Attention을 활용한 Seq2Seq 모델을 생성하는 방법 그리고 Seq2Seq 모델의 학습을 위해 필요한 데이터셋을 구성하는 방법에 대하여 알아보도록 하겠습니다.
[tensorflow] LSTM layer 활용법
시계열 데이터 그리고 NLP에서 흔히 사용되는 LSTM Layer의 주요 Hyper Parameter에 대하여 알아보고, 많이 헷갈려 하시는 input_shape 지정과 결과 값 (output)에 대해서도 직접 실행해 보면서 어떻게 동작하는지 살펴보도록 하겠습니다.
텐서플로(tensorflow) 윈도우 10 GPU 설치
텐서플로우(TensorFlow) 2.0 를 윈도우(Windows) 10에서 GPU를 활용하여 학습할 수 있도록 설치하는 방법에 대하여 공유드리고자 합니다.
텐서플로우(tensorflow) 파이참(pycharm)에서 dll 오류 해결
TensorFlow 2.0을 Pycharm에서 실행시 dll load failed: 지정된 모듈을 찾을 수 없습니다.가 나는 경우가 있습니다.
[tensorflow] RNN Text 생성 (셰익스피어 글 생성)
텐서플로우 공식 튜토리얼인 순환 신경망을 활용한 문자열 생성에 대한 클론 코드입니다. 셰익스피어 글 데이터셋을 활용하여 인공지능 모델을 학습시키고, 셰익스피어 스타일의 글을 생성할 수 있는 모델을 만들어 보도록 하겠습니다.
[tensorflow] 오토인코더 구현 (MNIST)
이번 포스팅에서는 오토인코더의 기본 개념에 대하여 알아보고, TensorFlow 2.0으로 오토인코더(Autoencoder)를 구현해 보겠습니다.
[tensorflow] VGG16 Transfer Learning 구현과 CNN 모델과 성능 비교
Tranfer Learning은 사전 학습된 모델을 활용하는 방법입니다. 사전 학습된 모델은 방대한 데이터에 대하여 이미 학습된 모델이기 떄문에 적은 학습 cost로 좋은 성능을 이끌어 낼 수 있습니다.
[tensorflow] 가장 기본모델인 Vanilla GAN 구현하기
GAN 이 참 핫합니다. 이번에는 가장 시초격인 Vanila GAN을 구현해 보도록 하겠습니다.
TensorBoard 활용법 및 colab에서 로드하기
TensorBoard 사용을 위한 callback을 만드는 방법과 colab에서 바로 로드하여 확인할 수 있는 magic command에 대한 내용입니다.
TensorFlow Datasets API 활용법
TensorFlow Datasets 는 다양한 데이터셋을 TensorFlow에서 활용하기 쉽도록 제공합니다. 굉장히 많고, 다양한 데이터셋이 학습하기 편한 형태로 제공 되기 때문에, 간단한 사용법만 알아두어도, 샘플로 모델을 돌려보고 학습하기에 매우 유용합니다.
[tensorflow] ImageDataGenerator / Convolution Neural Network(CNN) 을 활용한 이미지 분류
TensorFlow 2.0의 ImageDataGenerator를 활용하여 Image 데이터를 로컬 폴더에서 로딩 후 Generator를 통해 Image Augmentation과 모델에 Feed 할 수 있는 Generator를 만들어 보도록 하겠습니다.
[tensorflow] Dataset, batch, window, flat_map을 활용한 loader 만들기
tf.data.Dataset을 활용하여 다양한 Dataset 로더를 만들 수 있습니다. 그리고, 로더를 활용하여, shuffle, batch_size, window 데이터셋 생성등 다양한 종류를 데이터 셋을 상황에 맞게 생성하고 모델에 feed할 수 있도록 제공해 줍니다.
[tensorflow] 단어 토큰화, Embedding, LSTM layer를 활용한 뉴스 데이터 sarcasm 판단
캐글의 뉴스의 Sarcasm 에 대한 판단을 해주는 딥러닝 모델을 tensorflow 2.0을 활용하여 만들어 보겠습니다.
Kaggle Digit Recognizer Competition - achieve over 99% accuracy!
This is a very simple tutorial for tensorflow 2.0 beginners! This tutorial is based on Digit Recognizer presented by Kaggle You may be able to submit w...
딥러닝(LSTM)을 활용하여 삼성전자 주가 예측을 해보았습니다
본 내용을 토대로 코드가 업데이트 되었습니다. 최신글을 확인해 주세요
[Keras] 콜백함수 (3) - 조기종료: EarlyStopping
EarlyStopping 콜백을 활용하면, model의 성능 지표가 설정한 epoch동안 개선되지 않을 때 조기 종료할 수 있습니다. EarlyStopping과 이전에 언급한 ModelCheckpoint 콜백의 조합을 통하여, 개선되지 않는 학습에 대한 조기 종료를 실행하고, Mo...
[Keras] 콜백함수 (2) - weight 중간 저장: ModelCheckpoint
keras의 콜백함수인 ModelCheckpoint는 모델이 학습하면서 정의한 조건을 만족했을 때 Model의 weight 값을 중간 저장해 줍니다. 학습시간이 꽤 오래걸린다면, 모델이 개선된 validation score를 도출해낼 때마다 weight를 중간 저장함으로써, 혹시 ...
[Keras] 콜백함수 (1) - 학습률(learning rate): ReduceLROnPlateau
keras의 콜백함수인 ReduceLROnPlateau는 학습률이 개선되지 않을 때, 학습률을 동적으로 조정하여 학습률을 개선하는 효과를 기대할 수 있습니다. 경사하강법에 의하여 학습을 하는 경우 Local Minima에 빠져버리게 되면, 더이상 학습률이 개선되지 않고 정체되거나,...
[Keras] 손실함수(Loss Function)와 평가지표(metric) 커스텀하기
이번 포스팅에서는 Keras 딥러닝 프레임워크 활용시 loss function과 metric 을 커스텀하는 방법에 대하여 다뤄보도록 하겠습니다.
파이토치
torchtext를 활용한 텍스트 데이터 전처리 방법
torchtext는 pytorch 모델에 주입하기 위한 텍스트 데이터셋을 구성하기 편하게 만들어 주는 데이터 로더(Data Loader) 입니다. torchtext 를 활용하여 CSV, TSV, JSON 등의 정형 데이터셋을 쉽게 로드하도록 도와주는 TabularDataset 클래...
[2023년 UPDATE] 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker) 업데이트 안내
2023년 01월 15일 새해를 맞아 데이터 분석 / 머신러닝 / 딥러닝 주요 파이썬 패키지를 의존성 충돌 없이 설치, 그리고 한글 폰트, 형태소 분석기 등 한글 전처리 관련 도구가 사전에 설치된 도커(Docker) 이미지를 리뉴얼 하여 배포 하였습니다.
[huggingface] 한글 pre-trained 사전학습 BERT 모델로 텍스트 분류하기
이번 포스팅에서는 Huggingface의 한글 데이터셋으로 사전 학습된 kykim/bert-kor-base 모델을 가져와서 한글 자연어 데이터에 대한 텍스트 분류기를 만들어 보겠습니다. 이미지넷에서는 전이학습을 통해 손쉽게 Transfer Learning을 수행할 수 있습니다. ...
GoogLeNet의 Inception Module, 1x1 컨볼루션의 의미와 구현
Going Deeper with Convolutions(2015) Inception 모듈에 대한 내용입니다. 해당 논문에서는 Inception Module이라는 새로운 neural network architecture 를 공개하였습니다. 논문의 제목과 같이 Going Deeper ...
[pytorch] 변환(Transform)을 활용한 이미지 증강(Image Augmentation) 적용
데이터 증강(Data Augmentation)은 학습을 위한 데이터에 변형을 가하여 데이터의 규모를 키울 뿐만 아니라, 데이터에 대한 변형된 다양한 케이스를 학습하게 만들 수 있는 좋은 수단 중 하나입니다. 또한, 모델이 과적합(overfitting) 되는 것을 방지해주는 효과도 ...
AlexNet Implementation(구현) by PyTorch
AlexNet(2012) 의 PyTorch 구현 입니다. 논문에 대한 세부 인사이트는 생략하며, 오직 코드 구현만 다룹니다.
PyTorch Dataset을 상속받은 사용자 정의 이미지 데이터셋(CustomImageDataset) 구성하기
이번 튜토리얼에서는 torch.utils.data.Dataset을 상속 받아 사용자 정의 이미지 데이터셋을 구성하고, 이를 활용하여 DataLoader를 구성하는 방법에 대하여 알아보겠습니다.
PyTorch 전이학습(transfer learning)과 미세조정(fine tuning)으로 이미지 분류기 생성, 예측, 검증성능 평가하기
PyTorch의 사전 학습된 모델(pretrained model)을 로드하여 전이학습(transfer learning)을 통해 모델 생성, 학습, 예측 및 검증 성능을 측정해 보도록 하겠습니다.
PyTorch 로컬이미지 로드(ImageFolder) 후, DataLoader 생성 및 CNN이미지 분류 모델 생성, 학습, 검증 성능 측정하기
로컬 이미지 폴더에서 ImageFolder를 사용하여 이미지 데이터셋을 로드하고, CNN으로 구성된 모델을 생성, 학습, 예측, 검증 성능을 측정하는 방법을 알아보겠습니다.
PyTorch 심층신경망(DNN) 모델 생성 후 Fashion MNIST 이미지 분류기 생성, 학습, 예측, 검증 성능 측정하기
PyTorch 심층신경망(Deep Neural Network) 모델을 생성하고 PyTorch의 내장 데이터셋인 Fashion MNIST 데이터셋을 로드하여 이미지 분류기를 생성, 학습, 예측, 검증 성능 측정하는 방법을 알아보겠습니다.
PyTorch 정형데이터를 CustomDataset으로 서브클래싱(SubClassing)한 후 예측 모델 생성 및 학습하기
정형데이터셋을 로드하여 PyTorch의 torch.utils.data.Dataset을 상속받아 커스텀 데이터셋(CustomDataset)을 서브클래싱(SubClassing)으로 정의하고, 이를 torch.utils.data.DataLoader에 주입하여 배치구성을 한 뒤, 모델 학...
PyTorch의 자동미분(AutoGrad)을 활용하여 정형 데이터 예측기(regression model)구현
이번 튜토리얼에서는 scikit-learn의 내장 데이터셋인 보스톤 주택 가격 데이터셋을 활용하여 회귀 예측 모델(regression model)을 만들고 예측해 보도록 하겠습니다.
PyTorch의 자동미분(AutoGrad)기능과 경사하강법(Gradient Descent) 구현
이번 포스팅에서는 PyTorch의 자동미분(AutoGrad) 기능을 활용하여 경사하강법 알고리즘을 직접 구현해보고 손실(loss) 값과 weights, bias의 변화량을 시각화해 보겠습니다.
torchvision의 transform으로 이미지 정규화하기(평균, 표준편차를 계산하여 적용)
딥러닝 모델이 이미지를 학습하기 전 이미지 정규화를 진행하는 것은 일반적으로 수행하는 전처리 입니다.
[PyTorch] RNN Layer 입출력 파라미터와 차원(shape) 이해
이번 포스팅에서는 pytorch의 rnn 레이어의 input 차원, output 차원, hidden dimension, num_layers 파라미터를 직접 확인하면서 동작 결과를 눈으로 직접 확인해 보고 코딩시 적절하게 활용하는 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] 모델의 구조도 요약(summary) 출력 (torchsummary)
이번 포스팅에서는 pytorch 모델의 구조도(structure) 요약(summary)을 손쉽게 확인해 볼 수 있는 라이브러리인 torchsummary에 대해 소개해 드리겠습니다.
[PyTorch] 텐서(tensor)의 다양한 생성 방법, 속성, dtype 그리고 shape 변경
이번 포스팅에서는 PyTorch의 텐서(Tensor) 생성하는 다양한 방법, 랜덤 텐서의 생성, 그리고 텐서의 shape 확인 및 변경 방법에 대하여 알아보도록 하겠습니다.
[PyTorch] numpy로부터 텐서 변환(copying과 sharing의 차이)
이번 포스팅에서는 Tensor의 기본 특징과 PyTorch에서 정의한 Tensor타입, PyTorch에서 numpy array를 tensor 변환시 3가지 함수 from_numpy(), as_tensor(), tensor()의 사용법과 그 차이점에 대하여 알아보도록 하겠습니다.
원격 서버 Jupyter Notebook에서 TensorBoard(텐서보드) 로드 하기
tensorboard는 딥러닝 프레임워크에서 모델이 학습되는 과정을 실시간으로 모니터링 할 수 있는 강력한 툴입니다.
머신러닝/딥러닝 라이브러리 - GPU 사용 테스트
본 포스팅은 딥러닝 도커 설치 후 머신러닝/딥러닝 라이브러리의 GPU 사용 여부를 테스트하는 코드를 공유 드립니다. 머신러닝/딥러닝(PyTorch, TensorFlow) 최신 도커(docker)글을 참고하셔서 도커로 딥러닝 환경 구성을 하신 후, 아래 코드로 테스트 해 볼 수 있습...
[pytorch] MNIST dataset loading 하기
pytorch 에서 각 종 Datasets에 대하여 제공해줍니다.
pandas
Pandas 데이터프레임 출력결과 및 표기옵션 수정(컬럼, 행 최대 출력, 콤마 구분자, 과학표기법)
판다스(Pandas) 데이터프레임(DataFrame)의 출력결과 표기형식을 설정할 수 있는 다양한 옵션들에 대해 알아보겠습니다.