다른 큰 웹서비스들은 백엔드 서버가 여러개 인가요?

지금 시크릿모드,크롬,모바일 세개로 한번에 테스트 해봤는데
3기기만 가장 무거운 작업 동시에 돌리기 시작하면
ai api요청 지연시간이랑 이것저것 꼬이는지 셋다 30초이상 먹통이다가 서버가 나가버림.

그래서 백그라운드 워커를 만들었는데 그전에 없던 오류가 광광 터지는 중

작업큐 아키텍쳐 pm2 클러스터 모드 사용해서,

워커 스케일 아웃 인스턴스 프로세스를 자동으로 늘리는 것 까지는 구현했고

ram용량이 모자라다 그래서 render 유료결재까지 했어요

문제는 그전에는 없던 순환참조나 구조가 전체적으로 개박살 나서 굴러가질 않네요

_{^{안정화는 언제 시키냐… 빨간창 그만보고싶다….}}

다시 본론으로 들어와서

사용자가 엄청 많은 뭐 네이버나 ktx 웹서비스 서버 같은 경우도

백엔드는 하나에 인스턴스가 많은 건가요?

아니면 접속자가 많으면 다른 백엔드에 접속하나요?

분배기 같은 파일을 하나 만들어야하나요?

사용자 많은 웹사이트도 render 같은거 쓰나요?