Pytorch로 학습한 Image AI모델을 Torchscript로 변환 및 실행방법

프로그래밍 팁 2025. 2. 20. 00:25

 

 Torchscript에 대해 검색을 하는 과정에서 제 글을 찾기까지 여러분께서는 Torchscript에 대해 많은 내용들을 배우셨으리라 생각합니다.
  그럼에도 수많은 Torchscript에 다룬 글들을 끊임없이 찾다 제 블로그를 발견하신 여러분들이라면 아마도 이러한 고민을 하셨을 것으로 어림 짐작해봅니다.

 

"간단한 예제들을 보면서 Torchscript에 대해 이해할 수 있었습니다. 하지만 내가 학습한 AI 모델을 Torchscript로 변환하려면 어떻게 해야하죠?

 

 저 또한 지금까지 Torchscript 이론 및 예제들을 익혀보았지만, 실무에 바로 적용하기엔  뭔가 부족한 느낌을 많이 받았습니다.  카메라 영상 데이터를 사용하여 AI모델을 만들고 있는 저에게 있어 영상 데이터를 입력값으로 하는 Torchscript 예제를 찾기가 상당히 어려웠습니다. 다행히도 수없이 많은 구글링과 ChatGPT의 도움 덕에 Torchscript모델을 현업에 적용하는데 간신히 성공하였습니다.

 

  이 포스팅에서는 컬러 이미지를 입력으로 받는 AI모델을 Torchscript로 변환한 후 활용하는 과정들을 기록하였습니다. 혹시나 Torchscript에 대해 이론적인 지식을 필요로 하시는 분들께서는 아래의 자료를 참조해주셨으면 합니다.

https://velog.io/@dev_junseok_22/TorchScript-%EC%86%8C%EA%B0%9C

 

TorchScript 소개

TorchSciprt는 PyTorch 모델을 프로덕션 환경에서 쉽게 사용할 수 있도록 설계된 언어 및 컴파일러입니다. PyTorch는 주로 연구 및 개발에 사용되는 파이썬 기반의 딥러닝 프레임워크이지만, 프로덕션

velog.io

 

아래 코드를 통해 Vision AI모델을 TorchScript로 변환하고 실행하는 예제를 확인하실 수 있습니다.

 

먼저, Pytorch로 학습한 AI모델을 TorchScript로 변환합니다 여기서는 TorchVision에서 제공되는 Pretrained Model을 변환해보겠습니다.

1
2
3
4
5
6
7
8
9
10
11
12
import torch
import torchvision
 
# TorchVision에서 제공하는 모델을 로드
model = torchvision.models.resnet18(pretrained=True)
# 모델을 평가 모드로 전환
model.eval()
# Trace 방식으로 TorchScript 변환
example_input - torch.randn(1, 3, 512, 512)
traced_model = torch.jit.trace(model, example_input)
# TorchScript 모델 저장
traced_model.save('end2end.pt')
 cs

 

다음은 TorchScript로 변환된 AI모델을 Inference 하는 방법입니다.

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
import cv2
import numpy as np
import torch
import os
import glob
from torchvision import transforms
 
# AI모델을 학습하였을 때 사용한 이미지 Dataset의 정보
mean=[95.5142,114.2475,112.4564]
std=[40.0954,43.8636,38.223]
input_size=(512,512)
 
# 입력 데이터로 사용할 이미지 불러오기
image_path = "input_image.jpg"
img = cv2.imread(image_path)
height, width, c = img.shape
 
# AI모델의 Input 양식으로 변환
inputs = cv2.resize(img, input_size)
inputs = (inputs - mean) / std
 
# 이미지 데이터를 PyTorch 텐서로 변환
toTensor = transforms.ToTensor()
input_tensor = toTensor(inputs.astype(np.float32))
 
# 입력 이미지의 Tensor 차원을 추가함
# RGB 이미지 기준으로 Tensor가 (3,512,512)에서 (1,3,512,512)로 차원이 증가함
# Batch Size가 1인 입력으로 만들어 AI모델에 입력하는 것임
# to('cuda')로 Tensor값을 GPU메모리에 올림
input_batch = input_tensor.unsqueeze(0).to('cuda:1')
 
# 저장된 TorchScript 모델 로드
script_model = torch.jit.load('end2end.pt')
# 모델을 GPU로 이동
script_model.to('cuda:1')
# 모델을 추론 모드로 설정
script_model.eval()
 
# 모델 추론
with torch.no_grad():
    output = script_model(input_batch)
 
# 추론 결과를 GPU에서 CPU 메모리로 불러옴
inference_result = output.squeeze().cpu().numpy()
 
# 추론 결과를 이미지의 원본 크기로 Resize하여 결과 출력
seg = cv2.resize(inference_result, (width, height), interpolation=cv2.INTER_NEAREST)
 
 cs

 

이번 포스팅을 작성하면서 딥러닝 AI모델을 가공하는 과정들에 대해 다시 한 번 복습할 수 있었습니다.


실무자 입장에서 오픈소스로 공개된 라이브러리들이 이미지 전처리를 포함한 전반적인 학습 과정들을 포함해 잘 갖추어져 있어 가공되지 않은 원본 이미지를 입력으로 하면 곧바로 결과를 확인할 수 있다보니 Vision AI를 연구하는 입장으로서 AI모델의 학습과정에 필요한 기초적인 내용들에 대해 어렴풋이만 알고 있었다가 Torchscript로 변환된 모델을 다루게 되면서 Low 데이터로부터 학습데이터를 가공하는 기술의 중요성을 깨닫게 되었습니다.

 

 최신 AI 기술들의 경향을 따라가는 것은 중요하지만, 가끔은 AI의 기초를 다시 한 번 되짚어보는 것도 좋을것같습니다.

300x250

'프로그래밍 팁' 카테고리의 다른 글

VirtualBox에 Ubuntu 24.04를 설치 후 해상도 확장하는 방법  (0) 2025.01.02
Ubuntu 24.04에서 apt 저장소를 mirror 사이트를 변경하는 방법  (0) 2024.12.28
MMCV 라이브러리로 Custom AI모델을 만들어보자!(1) - Backbone 추가하기  (2) 2024.08.31
회전 이미지를 직사각형으로 Labeling하는 방법 - roLabelImg  (0) 2024.02.25
Windows 환경에서 MMDeploy로 TensorRT 구동(Python, C++)  (0) 2023.10.31
,

Huggingface에서 데이터셋 다운로드가 계속 끊길때 해결방법

공대생의 팁 2025. 1. 14. 15:27

 


Huggingface 라이브러리에서 제공되는 Transformer 모델을 테스트해보기 위해 PC에 실행 환경 구축을 시도해보고 있었습니다. trasforemrs, datasets 등 필요한 pip 라이브러를 설치한 후 아래와 같은 방법으로 python 스크립트를 작성하였습니다.

1
2
from datasets import load_dataset
ds = load_dataset('scene_parse_150', trust_remote_code=True)
 cs

그런데 데이터셋 다운로드가 진행되는 과정이 갑자기 중단되면서 에러가 발생합니다.

 

asyncio.exceptions.TimeoutError
fsspec.exceptions.FSTimeoutError

 

출력된 에러를 분석해보니 다운로드가 더이상 진행이 되지 않는 상황이 발생하였을 경우 datasets 라이브러리에서 다운로드를 중단시켜버립니다. 해당 라이브러리에서 다운로드 진행이 1초 이상 되지 않으면 프로그램이 종료되도록 설정되어 있는 것으로 제한시간을 넉넉하게 잡아주면 해결될 것 같아 아래와 같이 스크립트를 작성하였습니다.

1
2
3
4
5
from datasets import load_dataset
import aiohttp
ds = load_dataset('scene_parse_150', 
    trust_remote_code=True, 
    storage_options={'client_kwargs': {'timeout': aiohttp.ClientTimeout(total==3600)}})
 cs

위와 같이 설정해주었더니 다운로드가 끊기지 않고 완료되는 것을 확인할 수 있었습니다.

 

300x250

'공대생의 팁' 카테고리의 다른 글

Flask 라이브러리로 이미지를 업로드하고 볼 수 있는 서버 구축하기  (0) 2024.10.26
Windows Powershell에서 python 실행시 환경변수 설정 방법  (0) 2024.05.28
[mmcv] AssertionError: only one of size and size_divisor should be valid  (0) 2024.03.31
LabelMe로 Coco 데이터셋 변환후 MMDetection에서 학습이 안될 때 해결 방법  (0) 2024.03.26
MMOCR로 OCR 이해하기(2) - OCR 데이터셋 만들기  (0) 2024.01.31
,

VirtualBox에 Ubuntu 24.04를 설치 후 해상도 확장하는 방법

프로그래밍 팁 2025. 1. 2. 00:11

 

매번 Ubuntu의 새로운 버전이 나올 때마다 평소대로 Virtualbox에 설치하여 체험을 해왔습니다만 이번 버전에서는 미묘한 변화로 인해 기존의 방식대로 설치가 되지 않는 문제가 발생하여 혹시나 저와 같은 문제가 있으신 분들을 위해 제가 설치했던 방법을 여러분들께 전달드리고자 합니다.

 

1. VirtualBox에 Ubuntu 24.04를 설치한 후 장치→ 게스트 확장 CD 이미지 삽입... 을 클릭하여 게스트 확장 CD를 가상머신에 삽입합니다.

 

 

2. 바탕화면에서 CD 아이콘이 생성되는 것을 확인하실 수 있습니다. 해당 아이콘을 클릭합니다.

 

 

3. 게스트 확장 설치 폴더가 열립니다. '프로그램 실행' 버튼을 눌러 설치를 진행합니다.

 

 

4. 관리자 권한 획득을 위한 비밀번호 입력 후 설치가 진행됩니다. 혹시 아래와 같은 화면이 나올 경우 Terminal에서 다음과 같은 명령어를 입력하여 bzip2를 설치합니다.

 

$ sudo apt install bzip2

 

 

아래와 같은 화면이 나온다면 VirtualBox Guest Addition이 정상적으로 설치되고 있는 것입니다.

 

 

이제 Ubuntu 가상머신을 껏다 키면 아래와 같이 해상도가 VirtualBox의 창 크기에 맞추어 변경되는 것을 확인하실 수 있습니다.

 

 

300x250

'프로그래밍 팁' 카테고리의 다른 글

Pytorch로 학습한 Image AI모델을 Torchscript로 변환 및 실행방법  (0) 2025.02.20
Ubuntu 24.04에서 apt 저장소를 mirror 사이트를 변경하는 방법  (0) 2024.12.28
MMCV 라이브러리로 Custom AI모델을 만들어보자!(1) - Backbone 추가하기  (2) 2024.08.31
회전 이미지를 직사각형으로 Labeling하는 방법 - roLabelImg  (0) 2024.02.25
Windows 환경에서 MMDeploy로 TensorRT 구동(Python, C++)  (0) 2023.10.31
,
1 2 3 4 ··· 151

티스토리툴바