대용량 파일 스트림 업로드 관련 성능 병목 현상

Question

안녕하세요..현재 Nestjs로 구축한 백엔드 서비스를 관리하고 있는데, 이미지와 영상 파일들을 S3로 업로드 하는 기능이 있습니다.최근에 한번에 여러 클라이언트가, 또는 한 클라이언트에서 업로드 요청을 동시에 여러 번 올려서 서버가 터지는 이슈가 있었습니다.Nestjs의 FileInterceptor를 그대로 사용해서, 업로드하려고 하는 파일들이 메모리에 죄다 올라가서 메모리 부족이 생기더라고요.그래서 이것을 busboy를 이용하여 스트림 업로드 방식으로 변경한 이후에 다시 업로드 테스트를 진행하였습니다.150MB파일 한개 업로드하는데 대략 30초정도 걸렸는데, 한번에 150MB파일 9개를 동시 업로드하는데 4분정도 걸리더라고요.게다가 업로드 도중에는 업로드관련 api요청이 아닌 다른 api요청들도 모두 2-4초정도 지연이 되는것을 확인하였습니다.로컬 서버에서도, AWS EC2 상에서도 같은 현상이라, 원인을 생각해 봤습니다순수한 대역폭 부족 문제다중 업로드 처리 자체로 인한 CPU 오버헤드 (다만 메모리/CPU 사용량이 급증하진 않았습니다)제 지식으로는 이거 두개 정도인데, 혹시 다른 짐작갈만한 원인이 있을지, 또는 확인해봐야 하는 부분이 있을지 궁금합니다!사실 단순히 생각만 해봐도 느려지는게 정상이긴 한데, 그래도 정확히 무엇 때문에 느려진다는 것을 좀 알아야지 추후 개발할때 참고하고 개선할 수 있을 것 같습니다.단 S3 Multipart 업로드 방식의 경우, 예전 해외 클라이언트 쪽에서 사내망 문제로 업로드가 안된다고 했던 적이 있어서, 일단 보류 중입니다..

yeori · Accepted Answer

대역폭 때문일 것 같기는 한데, 좀 더 확실하게 짚으려면 150M 파일 9개를 동시에 업로드 하면서 S3말고 로컬(백엔드) 디스크에 저장해보면 알 수 있을 듯하고…그 파일 전송 중에 대역폭 체크하는 무시기 명령어 있는데 기억이 안나지만… 암튼 그거 실행해놓고 어떻게 로그 쏟아지는 지 확인해보면 문제지점을 좁힐 수 있습니다.그리고 파일 업로드 요청이 빈번하고 파일 크기도 크면 별도의 서버에서 처리하는 게 좋습니다.특히 node 기반은 이벤트 루프 아키텍처라 서버 쪽에서 무거운 job이 돌면 다른 요청들도 줄줄이 영향 받습니다. 원래 브라우저 보안 때문에 프로세스 격리하려고 만든 모델이라 이게 서버쪽하고 잘 맞지 않는 경우가 더러 생기죠.

대용량 파일 스트림 업로드 관련 성능 병목 현상

1개의 답변

#nestjs 목록