속도가 매우 느린 외부 API를 호출하는 API는 어떤 구조로 개선해야할까요?

Question

Spring boot 기반의 API를 개발했는데, 이중 특정 API가 내부적으로 외부 API를 호출하고 있습니다. 이 API는 아래의 과정을 거칩니다. 1. 외부 API 호출 - 약 9초 소요 2. 응답받은 데이터와 함께 전처리 후 DB 저장 3. S3 로 이미지 업로드 이때, 1번 항목인 외부 API를 호출하는데에 약 9초정도가 소요됩니다. 이 API는 사용자가 입력한 데이터를 기반으로 외부 API를 호출하기에 실시간 응답이 필요해서, 정기적으로 외부 API를 끌어오는 방법은 어려워보이는 상황입니다. 이 구조로 계속 방치해둔다면 해당 API 요청이 몰렸을 때, 다른 API 조차 핸들링하지 못하는 상황이 예상되고, 또한 API timeout 설정도 매우 폭이 커져야해서 의미가 없어질 것이라고 생각했습니다. 이 부분을 개선하고 싶은데, - Spring Event를 사용하면 비동기적으로 처리할수 있다고 들었는데 적절한 방법일지, - 현업에서 이러한 이슈를 어떻게 해결하고 있는지 - 추천하는 방법이 있는지 궁금합니다!

한안아 · Answer

무조건 9초정도 걸리고, 대외계 호출 결과로 다음 자료를 생성한다면 해결 방법이 없고,호출결과와 관계없이 다른 자료를 생성 가능하다면, 비동기 방식으로 처리하면 9초면 답이 나옵니다.

집킨 · Answer

외부 api를 튜닝할수 없는 상황이라면 어쨌든 우리쪽을 손봐야하죠가장 간단한 방법은 말씀하신대로 외부 api를 비동기로 호출하는겁니다응답이후의 파이프라인은 콜백으로 처리하구요그럼 톰캣의 스레드들이 멈추는 시간이 줄어들고 전체적인 처리량이 늘어나겠죠단, 이 방법도 결국 스레드를 계속 새로 만드는 방법이기 때문에 결국 요청이 급작스럽게 몰리면, 그리고 톰캣 최대 스레드 갯수에 달하면 서비스가 멈추는 리스크가 있습니다다른 방법으론 구축,운영 비용은 올라갈순 있으나 서비스의 안정성이 보장되는 카프카나 레빗엠큐같은 비동기 메세지 큐를 이용하는 방법입니다이거 자세히 설명하려면 내용이 너무 길어질거같아서 카프카를 공부해보면 대충 어떤 느낌인지 알겁니다요구사항이 딱 카프카 쓰기에 적합하네요근데 최종 클라이언트에게 외부api의 결과를 실시간성으로 응답해줘야 하는 상황이라면 좀 더 복잡해지겠죠

Clickin · Answer

HttpClient를 WebClient로 대체하고 해당 부분은 Reactor로 비동기처리하는 방법도 있겠네요

영일레븐 · Answer

외부 API를 어떻게 호출하시나요? async 방식으로 호출하셔야 할것 같습니다.

아직도개발중 · Answer

실시간으로 처리해야 하는데 외부 api가 9초가 걸리면 사용자 입장에서도 좋지 않은 경험일 것 같습니다.제가 만약 이런 상황이라면(외부 api 성능 개선이 불가능하다면)우리 서비스의 프로세스를 실시간이 아닌 신청 후 응답이 오는 형태로 바꿀 것 같구요.(앱이라면 신청 후 처리가 완료되면 완료되었다고 푸시 발송해주는거죠.)요청한 건들은 AWS를 사용하면 SQS로 처리하고, 클라우드를 사용하지 않으면 큐 테이블 생성 후 배치로 처리할 것 같습니다.트래픽이 몰릴 경우 큐잉을 하거나 처리 대기열을 매기지 않으면 결국 문제가 생길 구조입니다.

clowns · Answer

외부 api가 9초면 답이 없는데요.현업이면 그냥 프론트쪽에서 로딩바 띄우는 걸로 처리하던가아니면 1번을 안쓰고 딴거 써야죠

양반후반 · Answer

외부 api가 9초가 걸리는데 해당 결과를 실시간으로 보여줘야 한다는건 자체 서비스에서 어떻게 지지고 볶고 하더라도 9초 이상의 시간을 사용자가 기다려야 하는건 어쩔 수 없다고 봅니다.해당 작업의 플로우 자체를 실시간이 아니도록 변경 하는것이 나아보입니다.

속도가 매우 느린 외부 API를 호출하는 API는 어떤 구조로 개선해야할까요?

7개의 답변

기술 목록