AI 모델 실행 환경 구축

Question

안녕하세요. 회사에서 AI 모델 사용해서 서비스를 하려고 하는데서버를 IDC 서버로 구축할지 클라우드 사용할지 고민입니다.사내 개발자가 저 1명이라서 관리할 인력이 부족할 것 같고,AI 모델 사용하더라도 서비스가 잘 될 것 같지 않아요. 초기에는 사용자도 별로 없을 것 같아서 그냥 클라우드 사용하자고 제안하려고 하는데 다른분들 생각도 궁금합니다!혹시 사내에서 AI 모델(스테이블 디퓨전) 같은 모델 사용할 때서버 구축 어떻게 하셨는지도 알려주시면 감사하겠습니다.

한안아 · Answer

그냥 마소 에저 쓰세요... 그냥 솔루션으로 셋팅해줌.근데 비용이 문제임.

킁킁탐정 · Answer

AI 모델를 서비스 하기 위해서 IDC에 직접 구축하면 비용이 엄청날꺼 같습니다.OpenAI API를 비용 지불하고 사용하는걸 추천합니다.

鮫 · Answer

LLM쓰시는거면 GPU 클라우드는 피하세요.

AI 모델 실행 환경 구축

3개의 답변

기술 목록