Topic. GPU 사용률이 올라가지 않는 현상을 해결합니다.
1. 개요
LLM Model Fine-tuning 중 전용 GPU 메모리 사용량만 늘어나
3D 영역은 0%로
GPU 사용률이 0% 인 현상이 발생!
2. torch 라이브러리로 사용가능한 CUDA 확인
아래 명령어로 확인해봐도 torch는 외장그래픽카드로 잘 잡고있다.
print("start time : ", datetime.now())
print(torch.cuda.is_available())
print(torch.cuda.device_count())
print(torch.cuda.get_device_name(torch.cuda.current_device()))
3. 원인
바로 아래 빨간부분인 내장그래픽카드가 문제였다!
4. 해결
내장그래픽카드따윈 필요없으니 사용 안하기로 설정하자
1. NVIDIA 제어판
- NVIDIA 제어판에서 3D설정에서 위와같이 설정
2. 장치관리자
5. 검증
기존 GPU 0이 사라지고 GPU 1 이었던 외장그래픽카드가 0이 되며 사용률도 오르는것을 확인
'A.I.(인공지능) & M.L.(머신러닝) > Development Environments' 카테고리의 다른 글
[실습] vast.ai 인스턴스간 파일 전송 (0) | 2024.04.12 |
---|---|
[문제해결] LoRA fine-tuning > adapter_model.bin 이 1kb 미만인 현상 (0) | 2024.04.03 |
[실습] WSL 환경 CUDA 설치 (0) | 2024.03.07 |
[실습] Model Fine-tuning 환경설정시 시행착오(Linux Ubuntu) (1) | 2024.01.11 |
[실습] A.I. Pre-trained Model Fine-tuning 을 위한 환경설정(Linux Ubuntu) (0) | 2024.01.05 |