Docker 사용하기 - DanielWorld/SoftwareTech GitHub Wiki

  1. ssh 원격 접속
  • ssh username@{ip_address}

  1. docker 및 nvidia 관련 drive 설치 (이미 설치되어 있으면 x)

  2. docker 가 잘 동작하는 지 확인

$ docker run --help
  1. docker image 다운받기 (Ubuntu 22.04.2 LTS CUDA Version: 12.2)
$ docker pull nvidia/cuda:12.2.0-base-ubuntu22.04
  1. 아니면 docker file 직접 생성한 후 build : DockerFile 문법 설명 
$ docker build -t nvidia/cuda:12.2.0-base-ubuntu22.04 -f Dockerfile.cuda.dockerfile .
Docker file 예시 
FROM nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04

# apt 업데이트
RUN apt update -y && apt upgrade -y && apt-get update -y

# python 설치
RUN apt install -y python3.8 && update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.8 1 && apt install -y python3-pip

# git 설치 && vim 설치
RUN apt install -y git && apt install -y vim

# onnxruntime 설치
RUN pip install onnxruntime-gpu==1.15.1

5-1. 백그라운드에서 실행방법 
1) docker build 실행 후, `ctrl + z` 실행 <br>
2) `bg` 입력후 Enter <br><br><br>
  1. docker image 확인
$ docker images
스크린샷 2023-09-05 오후 6 38 53 스크린샷 2023-09-06 오후 3 41 36
  1. 현재 동작 중 & 동작했던 docker 확인
$ docker ps -a
  1. docker container 생성 및 실행
$ docker run --gpus all --name onnx_int8_gpu -it nvidia/cuda:12.2.0-base-ubuntu22.04

$ docker run --gpus all -it --rm -w /llama.cpp -v {source directory}:/llama.cpp {docker_image_name}
  1. 이전에 생성한 docker container 사용할 시
$ docker stop onnx_int8_gpu
$ docker start onnx_int8_gpu
$ docker ps -a
$ docker exec -it onnx_int8_gpu bash   # bash 의 경우 COMMAND 값
  1. docker container 삭제
$ docker rm onnx_int8_gpu
  1. Docker container 로 image 만들기
  1. Docker image commit 하기
  1. ssh 파일 전송
스크린샷 2023-09-06 오후 3 10 04
  1. docker 파일 전송
스크린샷 2023-09-06 오후 3 10 51
  1. ssh 파일 다운로드
$ scp 사용자명@서버주소:서버 file 경로  로컬저장경로
$ scp -r 사용자명@서버주소:서버 directory 경로  로컬저장경로
$ scp -P 포트넘버 -o 추가옵션 사용자명@서버주소:서버 directory 경로  로컬저장경로

참고자료

⚠️ **GitHub.com Fallback** ⚠️