IOCP 서버 첫 실행 후와 이후 테스트 결과가 다른 문제 조언 구합니다.(내용 추가)

Question

안녕하세요. 프론트엔드 일을 하다가 백엔드로 전향한 사람입니다.jmeter로 IOCP 서버를 테스트하고 있습니다.클라이언트(jmeter)-엔진서버-DB서버 이렇게 연결되어 있는데요.엔진서버와 DB 서버는 TCP로 항시 연결 된 상태이고,클라이언트와 엔진서버는 프로토콜을 한번 주고 받으면 연결을 끊게 되어 있습니다.DB서버를 최초 실행 시에 테스트 할 땐 Max Response 시간이 초반에 막 치솟다가 어느 순간 안정을 되찾습니다.이 상태에서 테스트를 더 하면 Max는 더 오르지 않고요.DB서버 실행엔진서버 실행 후 DB서버와 연결jmeter 테스트 시작테스트 초반에 Max Response 시간이 치솟다가 어느 순간 오르지 않음테스트 종료 후, 서버를 그대로 켜둔 채로 다시 테스트 진행하면 Max Response 시간은 더 이상 오르지 않음엔진서버만 재실행 하면 Max Response 시간은 오르지 않음. 무조건 DB서버까지 재실행.엔진서버 Init 시에 DB서버와 일정 프로토콜을 주고 받으면 해당 현상은 발생하지 않긴 한데, 얼마나 주고 받아야 하는지 정확한 기준도 모르겠고 근본적인 해결 방법은 아닌 것 같습니다.이런 현상 겪어 보신 분 계신가요?

캐티 · Answer

response가 났음 request가 있었겠쩌. 일반적인 프로토콜은 요청->응답 순서로 가는 거여요. 위에 서버가 정적 커넥션풀을 사용한다 이럼 4개이던 8개이던 16개이던 더 많은 거이던 미리 연결을 쳐둘거빈담. 사실은 tls 협상과정에 오버헤드가 나는 거여서 미리 연결을 해주는 거여요. tcp 연결은 3 번 순회하고 tls 는 client server hello 과정 뒤에 먼가 더 있었던거 같은데 서버를 켜면서 10개 커넥션 풀을 만들었다 이럼 응답 피크가 뛰겠쩌.

scissors hand · Answer

이 질문을 그대로, chatgpt등에 넣어보면 자세하게 답변이 잘 나옵니다.처음 DB서버를 실행한다는 말이 DB서버를 재시작했다는 얘긴지, 엔진서버가 DB서버에 최초 접속할 때 얘긴지 잘 모르겠지만, 아무튼 초기 Max Response 시간이 무조건 개선해야 한다면 시도하신 내용처럼 웜업 과정을 거쳐야겠죠.-> 데이터베이스(DB) 재시작 시 SQL 컴파일 캐시(실행 계획 캐시 또는 프로시저 캐시라고도 함)는 초기화됩니다. 이로 인해 재시작 직후 처음 실행되는 쿼리들은 실행 계획을 다시 컴파일해야 하므로 초기 성능 저하가 발생할 수 있습니다. 이를 방지하기 위한 "웜업(Warm-up)" 전략은 다음과 같습니다. 주요 쿼리 실행 (권장 방법)가장 효과적인 방법은 애플리케이션에서 자주 사용되는 핵심 SQL 쿼리들을 모아두고, DB 재시작 후 관리자 또는 별도의 스크립트를 통해 한 번씩 실행하는 것입니다.실제 서비스에서 사용하는 것과 동일한 형태의 쿼리를 사용해야 합니다.SELECT COUNT(*)와 같은 간단한 쿼리보다는 실제 데이터 액세스 패턴을 반영하는 쿼리가 더 효과적입니다. 자동화된 웜업 스크립트DB 재시작 후 자동으로 실행되도록 웜업 스크립트를 구성할 수 있습니다.스크립트는 주요 비즈니스 로직을 포함하는 저장 프로시저나 함수를 호출하거나, 핵심 테이블에 대한 대표적인 SELECT 쿼리들을 실행하도록 설계합니다. JMeter 테스트에 반드시 Warm-up 구간을 둔다실무 표준입니다.테스트 시작 후예: 1~5분은 측정에서 제외이후 구간만 결과로 사용JMeter에서는:Test Fragment + Warm-up Thread Group또는 결과 리스너에서 초기 N초 무시Max Response만 보지 말 것JMeter에서:Max는 *단 한 건의 이상치(outlier)*에도 민감실무에서는:P95P99P99.9가 더 중요합니다. 초기 1~2건 때문에 Max가 튀는 것은 시스템 품질 문제라고 보지 않는 경우가 대부분

IOCP 서버 첫 실행 후와 이후 테스트 결과가 다른 문제 조언 구합니다.(내용 추가)

2개의 답변

Q&A 목록