A.I.(인공지능) & M.L.(머신러닝)/Development Environments
[문제해결] 머신러닝, 딥러닝 GPU 사용률이 올라가지 않는현상
Tech엠지대표
2024. 3. 8. 09:51
Topic. GPU 사용률이 올라가지 않는 현상을 해결합니다.
1. 개요
LLM Model Fine-tuning 중 전용 GPU 메모리 사용량만 늘어나
3D 영역은 0%로
GPU 사용률이 0% 인 현상이 발생!
2. torch 라이브러리로 사용가능한 CUDA 확인
아래 명령어로 확인해봐도 torch는 외장그래픽카드로 잘 잡고있다.
print("start time : ", datetime.now())
print(torch.cuda.is_available())
print(torch.cuda.device_count())
print(torch.cuda.get_device_name(torch.cuda.current_device()))
3. 원인
바로 아래 빨간부분인 내장그래픽카드가 문제였다!
4. 해결
내장그래픽카드따윈 필요없으니 사용 안하기로 설정하자
1. NVIDIA 제어판
- NVIDIA 제어판에서 3D설정에서 위와같이 설정
2. 장치관리자
5. 검증
기존 GPU 0이 사라지고 GPU 1 이었던 외장그래픽카드가 0이 되며 사용률도 오르는것을 확인