로드 밸런싱은 어느정도 규모 사이트에서 사용하나요?

Question

안녕하세요. 로드 벨런싱 사용 경험이 있는 선배님께 여쭤보고 싶습니다. https://aws.amazon.com/ko/lightsail/pricing/ aws lightsail의 월 20USD 요금. 4GB 메모리2코어 프로세서80GB SSD 디스크4TB 전송*을 사용할 경우. 일반 게시판 같은 사이트라면 어느정도 규모에서 로드 밸런싱을 사용해야 할 까요? 여러 서버 대여해서 로드 밸런싱 하는 것 보다 가장 비싼 월 160USD 서버를 대여하는 게 정답이라면, 만약 해당 서버를 대여하면 어느정도 규모에 달하면 로드 벨렁싱을 사용해야 할 까요?

Dierslair · Answer

수직적 스케일아웃이 통하지 않을 때 수평적 스케일아웃을 사용합니다. 정확한 것은 스트레스 테스트를 통해 경계값을 잡는 게 좋습니다만 대략적으로 자바 스프링은 서블릿 기반 앱에서 약 3000req/sec 요청을 넘으면 쓰레드간 컨텍스트 스위칭으로 인해 성능이 정체됩니다. https://dev.to/azure/spring-boot-performance-benchmarks-with-tomcat-undertow-and-webflux-4d8k 모니터링 환경이 구현되어 있는 경우 응답 속도가 .x초를 넘으면 한다든가 하는 기준도 있습니다.

KuruKuru · Answer

감사합니다. Java srpring기반 서버는 3000req/sec 이상 되면 로드밸런싱이 필요하다는 거군요.

worker ant · Answer

'대략적으로'를 간과하시면 안됩니다.언제나 case by case라 고정적인 정답은 없습니다. 성능 이슈 말고도 노드 장애를 대비한 failover 형태로 사용하는 케이스도 있습니다.단일 인스턴스로 수직 스케일링하여 운용시 해당 인스턴스에 장애가 발생한다면 서비스 장애이지만, (여유가 있는) 복수 인스턴스라면 일부 순단을 제외하곤 정상 서비스가 가능하겠죠.

로드 밸런싱은 어느정도 규모 사이트에서 사용하나요?

3개의 답변

Q&A 목록