[RunPod] GPU 할당 및 SSH 접속 방법 (key생성 방법 포함)

A100 GPU를 사용하기 위해, RunPod이라는 서비스를 이용하게 되었습니다!

 

https://www.runpod.io/?inflect=&targetid=kwd-606786457326&adgroupid=175137555098&loc_interest=&loc_physical=9196622&utm_source=adwords&utm_medium=ppc&utm_campaign=22174979174&utm_term=runpod&utm_content=730871123935&utm_gclid=Cj0KCQjwkN--BhDkARIsAD_mnIoChAb-tG6SDRPaFnqknyJ7HlNguwmaCa-_oyRRpLZk6Kb5sk1D8TYaAoywEALw_wcB&gad_source=1&gclid=Cj0KCQjwkN--BhDkARIsAD_mnIoChAb-tG6SDRPaFnqknyJ7HlNguwmaCa-_oyRRpLZk6Kb5sk1D8TYaAoywEALw_wcB

RunPod - The Cloud Built for AI

 

 

사용법

1. 구글 계정으로 회원가입을 진행합니다.

2. Billing 탭에서 사용하고자 하는 크레딧 양을 결제합니다. (저의 경우 50달러를 결제했습니다.)

3-1. Settings 탭에서 SSH Public Keys에 로컬 pc에서 생성한 SSH key를 복붙합니다. (생성방법은 3-2참고)

 

3-2. 로컬 pc에서 다음과 같이 key를 생성합니다.

SSH를 사용한 접속

 

1. 다음처럼 ed25519 key pair를 생성합니다. 

 

% ssh-keygen -t ed25519

Generating public/private ed25519 key pair.

Enter file in which to save the key (/Users/webnautes/.ssh/id_ed25519):    키를 저장할 위치로 엔터를 누르면 괄호안에 표시된 위치에 저장됩니다.

 

이미 생성했다면 다음처럼 보입니다. y를 입력후 엔터를 누릅니다.

/Users/webnautes/.ssh/id_ed25519 already exists.

Overwrite (y/n)? 

 

Enter passphrase (empty for no passphrase):   암호가 필요해야 합니다. 입력한 암호가 보이지 않으니 입력 후 엔터를 누르면 됩니다. 

Enter same passphrase again:                          앞에서 입력한 것과 똑같이 입력합니다. 

 

키가 저장된 위치와 관련 정보가 출력됩니다.  

Your identification has been saved in /Users/webnautes/.ssh/id_ed25519     

Your public key has been saved in /Users/webnautes/.ssh/id_ed25519.pub

The key fingerprint is:

SHA256:KFyTfq610 

webnautes@webnautesui-MacBookAir.local

The key's randomart image is:

+--[ED25519 256]--+

|        .+++.    |

|      +   =+.. B |

|     . o E. o..+.|

|        * .  ..o+|

|       o o    +o.|

|      . .     .+o|

+----[SHA256]-----+

생성된 public key를 확인합니다. 위 출력 결과에서 확장자가 pub인 파일의 내용을 다음처럼 출력하여 내용을 복사합니다.

% cat ~/.ssh/id_ed25519.pub

런팟 사이트의 왼쪽에 보이는 메뉴에서 Settings를 선택합니다. 

 

4. Deploy 탭에서 원하는 GPU 장비와 갯수, Container size, Disk size (SSD or NVME)를 조절할 수 있습니다.

 

5. 다음과 같이, GPU가 할당된 것을 확인할 수 있습니다.

 

6. Connect 버튼을 누르면, 아래와 같이 쓰여 있는 부분에서 'SSH 주소와 포트번호'를 확인할 수 있습니다.

SSH over exposed TCP

Connect to your pod using SSH over a direct TCP connection. (Supports SCP & SFTP)

 

7. 로컬 터미널에서 해당 주소와 포트번호를 입력하면, SSH로 접속이 가능합니다!