vast ai 찍먹해 봤습니다.

회원 가입 후에 카드 등록하고 5달러 크레딧 구매…

일단 3090 1시간에 0.2딸라짜리 결제를 했습니다.

llama 계열 채팅 명령 모델 QA 훈련 해봤는데 세상에… 너무 좋습니다.

집에서 맥북으로 mps 적용해서 꾸역꾸역 하고 있었는데 내가 왜그랬을까 싶었습니다.

AI 공부하시는 분들 맛보기로 이용해 보시는것도 나쁘지 않아 보입니다.

장점

싸다(?) 인스턴스를 중단하면 하루에 0.04 딸라 소비된다. (인스턴스 유지비용 명목)

각종 그래픽카드를 간접적으로 맛볼 수 있다. (1060 부터 A100 까지 다양함)

주피터 노트북 뿐만 아니라 ssh 연결도 가능하다.

단점

다쓴 후에는 인스턴스를 꺼야 한다. 귀찮다. 그떄그때 쓰고싶을때 켠 후 ssh 연결을 해 줘야 한다.

입장에 따라 비싸게 느낄 수도 있다.