초당 10만건 처리 = 'TPS 10만' 이라고 봐도 되나요?

Question

안녕하세요,백엔드 채용 공고들을 보면 대규모 트래픽 처리 능력이 중요한 것 같아서, 토이 프로젝트(웹) 주요 API에 대규모 부하를 발생시켜서 성능테스트를 진행하려고 합니다.다음과 같이 스테이징 환경을 구성했고, nGrinder로 부하를 발생시키고 TPS를 측정해서 목표 TPS를 도달할 때 까지 아키텍처 개선 및 어플리케이션 코드 리팩토링을 하려고 합니다.이 때 주요 API의 목표 처리량이 '초당 10만건' 이라면, 이는 nGrinder의 성능 테스트 결과에 표시되는 TPS가 100,000 이라는 것과 동일한 의미 인가요?만약 그렇다면 nGrinder 테스트 결과의 TPS가 100,000이 될 때 까지 개선 해보려고 합니다.예를 들어, 지금은 특정 엔드포인트의 nGrinder 성능 테스트 결과에서 다음과 같이 TPS가 144로 나오던데 이 값이 100,000이 되도록 개선하면 '초당 10만건' 처리 가능하도록 개선했다고 말할 수 있나요?초당 10만건으로 목표를 잡은 이유는 대규모 트래픽을 처리하는 회사에서 초당 10만건을 기준으로 설계한다는 말을 들어서인데 현실적인 목표인지는 아직 모르겠습니다.만약 지금처럼 2대의 WAS, 1대의 DB로 목표 TPS가 불가능하다면 서버당 TPS로 목표를 바꿀까 생각 중입니다.비용 문제로 EC2 인스턴스 성능을 업그레이드 하거나 scale out 하기는 어려워서성능 테스트는 점진적으로 부하를 증가시키는 일반적인 부하테스트 및 스파이크 테스트 정도 진행해보려고 합니다.아직 성능테스트를 해보진 않았는데 혹시 제 계획이 비현실적이거나 빠진 부분이 있다면 알려주시면 감사겠습니다.

집킨 · Answer

네 tps가 초당 트랜잭션 처리 수 입니다서비스의 성능 목표가 100000tps라면 각 was를 그룹화해서 tps성능측정을 하면 되겠죠근데 nGrinder는 안써봐서 그룹기능이 있는지는 모르겠네요가능하면 무료인 scouter를 써보세요 좋습니다

kiel · Answer

매우 비현실적인 시도 같습니다.TPS 10만을 목표로 하셨는데, 왜 그런 경험이 필요하신가요? 지원하려는 업체에 'TPS 10만 경험자 우대' 같은 내용이 있을까요?2대 장비로는 어림도 없습니다. 대규모 트래픽 처리하는 업체는 EC2 장비가 고성능 장비에 기본 2자리수 입니다. TPS 144 를 10만까지 처리할 수 있게 한다면 선형적으로 증가한다고 가정하고 같은 스펙의 EC2 장비로 700대 필요한데 그렇게 늘리실 수 있나요? 가장 병목이 될 DB 장비는 별도로 한 가정입니다.처리량을 늘려보시면 아시겠지만 성능에 영향 주는 요소로 어플리케이션의 로직도 있습니다만 DB가 절대적인 영향을 줍니다. DB 스펙을 처리 할 수 있게 높이면 비용 감당하실 수 있으신지요?저런 구성으로 성능 측정을 해서 결과를 뽑아보고 같은 구성에서 개선해서 TPS 를 높힌 경험이 있다 정도만으로도 면접관에게 충분히 어필할 수 있다고 봅니다. 이 경우 뭘 바꿨더니 얼마만큼 개선이 됐는데, 어떤 요소가 영향을 준것 같다 라는 내용까지 있다면 더 좋겠죠.

Dive_Drink_Develope · Answer

현재 구성에서 일정을 정해놓고 최대한 올리기 위해 노력을 하면서 그 과정을(병목 구간 분석 및 해결방안 탐색/구현 방법등) 잘 기록하면 좋을것 같습니다

초당 10만건 처리 = 'TPS 10만' 이라고 봐도 되나요?

3개의 답변

Q&A 목록