SJ_Koding

1. timm에서 model를 load한 뒤, 저장된 pt파일을 불러와 inference를 시키면 성능이 크게 감소했음. --> model.eval()를 반드시 실행해줘야함. with torch.no_grad는 parameter update를 통제할 뿐, forward 과정까지의 update를 통제하지는 않는다. timm은 default mode로 train mode로 설정 되어있으므로 eval()을 통해 모드를 바꿔줘야한다. eval()모드는 BatchNormalization의 파라메터를 Train시 셋팅한 값을 그대로 가져오지만, train()은 입력 데이터에 따라 BN의 parameter를 변화시키기 때문에, 성능이 엉망이 되었던 것이다. (추가로 dropout 레이어도 완전히 무시해준다.) 아마 ..

2023.12.10 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (5편) - Training/valid/test 上편 Pytorch, 이미지 분류 코드 자세히 이해하기 (5편) - Training/valid/test 上편 (가독성과 필력을 위해 문체를 바꾸겠습니다.) Data Augmentation, ResNet9까지 살펴 보았다. 2023.11.08 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (4편) - ResNet9 모델 Pytorch, 이미지 분 sjkoding.tistory.com 본격적으로 위 게시글에서 만든 함수를 사용하여 모델 학습 및 검증을 진행한다. model = ResNet9..

(가독성과 필력을 위해 문체를 바꾸겠습니다.) Data Augmentation, ResNet9까지 살펴 보았다. 2023.11.08 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (4편) - ResNet9 모델 Pytorch, 이미지 분류 코드 자세히 이해하기 (4편) - ResNet9 모델 2023.11.08 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (3편) - AutoAugment Pytorch, 이미지 분류 코드 자세히 이해하기 (3편) - AutoAugment 2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분 sjkoding.tistory...

2023.11.08 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (3편) - AutoAugment Pytorch, 이미지 분류 코드 자세히 이해하기 (3편) - AutoAugment 2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (2편) - Dataset Pytorch, 이미지 분류 코드 자세히 이해하기 (2편) - Dataset 2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 sjkoding.tistory.com *이전 글들과 이어지는 내용입니다. 이번 대회에서는 ResNet 9 모델을 사용했습니다. 기존에는 18, 50..

2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (2편) - Dataset Pytorch, 이미지 분류 코드 자세히 이해하기 (2편) - Dataset 2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (1편) - 데이터 확인 Pytorch, 이미지 분류 코드 자세히 이해하기 (1편) - 데이터 확인 1편 내용: import 문, SEED 고정, DataFrame화, r sjkoding.tistory.com 이번 글 역시 이전과 이어지는 글입니다. Albumentation Demo 사이트 torchvision의 augmentation함수와 albumentation의..

2023.11.07 - [Deep Learning/Pytorch] - Pytorch, 이미지 분류 코드 자세히 이해하기 (1편) - 데이터 확인 Pytorch, 이미지 분류 코드 자세히 이해하기 (1편) - 데이터 확인 1편 내용: import 문, SEED 고정, DataFrame화, rsplit, natsort, countplot 1편은 pytorch문법이 나오지는 않으나 반드시 필수적으로 처리해야하는 부분들입니다. 교내에서 진행한 AI경진대회에서 30개의 클래스 sjkoding.tistory.com * 이번 포스트는 위의 글과 이어지는 포스트입니다. 코드의 흐름이 이어지므로 꼭 확인바랍니다. Custom Dataset 설정 *아래 코드를 잘 기억해 두었다가 추후 생성자의 인자가 어느형태로 어떻게 전..

1편 내용: import 문, SEED 고정, DataFrame화, rsplit, natsort, countplot 1편은 pytorch문법이 나오지는 않으나 반드시 필수적으로 처리해야하는 부분들입니다. 교내에서 진행한 AI경진대회에서 30개의 클래스로 이루어진 32 by 32 이미지를 분류하는 대회를 진행하였습니다. 해당 이미지는 500개로 시작하여 3개의 클래스 마다 50개씩 데이터 개수가 줄여져있습니다. 즉 500, 500, 500, 450, 450, 450, 400, 400, 400, ..., 50, 50, 50 개의 데이터로 불균형을 이룹니다. 해당 대회코드로 각각 무슨 역할을 하는 코드인지 하나하나 정리하면 좋을 것 같아 글을 작성하게 되었습니다. * 데이터는 공개할 수 없음 환경: googl..

timm은 라이브러리는 "PyTorch Image Models"의 약자로, Ross Wightman에 의해 작성된 PyTorch 기반의 이미지 분류 모델 라이브러리이다. 다양한 모델: timm은 많은 사전 훈련된 모델들을 포함하고 있어서 다양한 비전 작업에 활용할 수 있습니다. 이 라이브러리는 ResNet, EfficientNet, Vision Transformers(ViT) 등 다양한 아키텍처를 지원한다. 사전 훈련된 가중치: 많은 모델들에 대해 ImageNet에서 사전 훈련된 가중치를 제공한다. 이를 통해 전이 학습(transfer learning)을 쉽게 시작할 수 있다. 유연성: timm은 연구자나 개발자가 쉽게 커스텀 모델 아키텍처나 다양한 모델 변형을 시도할 수 있도록 설계되어있다. 효율성 및..