톰캣 부하 테스트 질문!

Question

안녕하세요 톰캣의 설정값들을 조정하면서 동시 요청 테스트를 진행하는 중에 의문이 생겼습니다.테스트에서 톰캣 설정은 아래와 같이 값을 설정했고, 간단한 컨트롤러로 요청을 보낸다고 가정합니다.server: tomcat: threads: max: 5 # 생성할 수 있는 thread의 총 개수 max-connections: 5 # 수립가능한 connection의 총 개수 accept-count: 5 # 작업큐의 사이즈&#64;RestController public class SpringController { Logger logger &#61; Logger.getLogger(SpringController.class.getName()); // 동기 처리 방식 &#64;GetMapping(&#34;/spring&#34;) public String spring() throws InterruptedException { RestTemplate restTemplate &#61; new RestTemplate(); logger.info(&#34;start spring&#34;); System.out.println(Thread.currentThread().getName()); Thread.sleep(5000); logger.info(&#34;end spring&#34;); return &#34;a&#34;; } }제가 궁금한건, 현재 톰캣 설정을 보면 최대로 연결할 수 있는 커넥션은 10개라고 생각합니다(5개는 즉시 연결, 5개는 작업큐에서 대기), 그리고 즉시 연결된 5개에 대해서는 스레드가 있기 때문에 즉시 처리가 가능합니다.ngrinder를 이용하여 vuser수를 조절하면서 테스트를 했습니다.예를들어 10개 가상 유저 요청을 보낼때는 정상적으로 작동했습니다.그래서 혹시 11개가 동시에 요청이 와도 잘 처리하나? 라는 의문을 가지고 vuser를 11로 설정해서 요청을 보냈습니다. 결과는 스프링 서버의 로그상으로는 예외가 하나도 터지지 않았습니다. 그래서 ngrinder 로그를 확인해보니 아래와 같은 에러들이 존재했습니다.2024-05-12 15:19:01,360 ERROR java.util.concurrent.ExecutionException: java.net.ConnectException: Operation timed out java.net.ConnectException: Operation timed out제가 예상하기에는 톰캣자체에서 수용할 수 있는 커넥션 여분이 없어서 timeout 에러를 발생했다고 생각하는데, 스프링 서버에서는 에러 로그나 예외가 발생하지 않아서 의문이 있습니다. 애초에 톰캣이 여유 커넥션이 없어서 was 자체로 받아들이지 않고 초장에 요청을 거절하는 거라고 생각이 드는데 맞는지 의문입니다!그리고 추가로 톰캣에서 설정하는 값이 일반적으로 스레드에 대해서 개수를 조절하는데, 제가 알기로는 톰캣 내부에도 워커 스레드나, acceptor 스레드로 나뉘는데 설정한 스레드의 개수는 둘중에 어떤 스레드의 수 인지 궁금합니다!

Clickin · Answer

톰캣 버전마다 다르지만 nio 기반으로 생각하면 acceptor 큐를 폴러 스레드가 싱글스레드 방식으로 폴링해서 워커 스레드에 분배합니다.스프링은 톰캣 위에 올라간 서블릿 컨테이너 중 하나에 속하니 11번째 유저는 애초에 스프링까지 도착하지도 않은거죠즉 11번째 리퀘스트는 acceptor 큐에서 계속 대기하고 있을 뿐이니 타임아웃만 난거로 생각하시면 되겠습니다.

집킨 · Answer

네 톰캣에서 더 이상 요청을 받을 수 없어서 타임아웃이 난겁니다왜 톰캣 로그엔 안보이냐면 톰캣에 연결을 하는 주체는 ngrinder이기 때문에 타임아웃 에러 로그는 ngrinder 에서 발생해서 그렇습니다

톰캣 부하 테스트 질문!

2개의 답변

기술 목록