LLM 개발용 컴퓨터 관련 질문드립니다.

이번에 회사에서 LLM 관련 신규 서비스를 개발하게 되어 개발용 장비를 구입하려고 합니다.

예산은 약 1000만원 내외이고,
70B급 모델을 셋팅해서 개발 및 테스트 용도로 활용하려고 합니다. (실제 학습보다는, 주로 로컬 환경에서 모델 서빙 · RAG · 파인튜닝 테스트 용도입니다.)

현재 고민 중인 구성은 다음 두 가지입니다.

1. Mac Studio

   • M3 ultra (1000만원 예산 안에서 옵션 추가 가능합니다.)

2. Custom 데스크탑

   • RTX 5090 혹은 그 이상

llm 개발에 맥을 추천하시는 분들도 계시고 아닌 분들도 계시더라고요.. 1로컬 LLM 구축이 처음인지라 경험이 없어서 선배님들의 조언을 구하고 싶습니다. 어떤 선택이 더 좋은 선택일까요? (5090이 아닌 다른 그래픽카드를 구매하는 게 더 좋을지도 궁금합니다!)