자바스크립트 대량 비동기 요청 동시 실행 제한 구현 방법과 풀 패턴 적용 가이드
대량의 비동기 요청을 Promise.all로 한 번에 처리할 때 발생하는 429 오류와 브라우저 지연을 해결하기 위해, 동시 요청 수를 일정하게 제한하는 비동기 워커 풀 패턴의 원리와 구현 절차를 정리합니다.
증상과 재현 조건: 수백 개 요청 동시 발송 시 발생하는 병목 현상
웹 애플리케이션이나 사내 업무 툴을 개발할 때 수백에서 수천 건에 달하는 대용량 파일 업로드나 외부 API 동기화 작업을 수행해야 하는 경우가 있습니다. 이때 많은 초급 개발자가 단순히 배열 메서드인 map을 사용해 수백 개의 fetch 프로미스를 생성한 뒤 Promise.all에 그대로 전달하곤 합니다.
이러한 방식으로 코드를 실행하면 브라우저 네트워크 탭에서 수많은 요청이 일제히 Pending 상태로 전환됩니다. 이후 대상 API 서버에서 요청 한도 초과를 의미하는 HTTP 429 Too Many Requests 응답이 연쇄적으로 발생하거나, 브라우저의 HTTP 연결 풀 제한(동일 호스트 기준 보통 6개)에 걸려 후속 UI 렌더링과 이벤트 루프가 멈추는 프리징 현상이 나타납니다.
재현 조건은 명확합니다. 100개 이상의 원격 데이터 식별자 배열을 순회하면서 지연이나 제한 장치 없이 즉각 Promise.all([item1, item2, ...])을 호출할 때 발생하며, 백엔드 서버의 처리 능력이나 프론트엔드의 메모리 점유 상태에 따라 요청 누락과 타임아웃 오류가 빈번하게 동반됩니다.

가능한 원인: 프로미스 생성 즉시 실행 특성과 서버 Rate Limit
이 문제의 근본적인 원인은 자바스크립트 프로미스(Promise)의 실행 메커니즘에 있습니다. 프로미스는 인스턴스가 생성되는 즉시 내부 실행자 함수(executor)를 동기적으로 평가하며 비동기 네트워크 작업을 곧각 브라우저 커널이나 엔진의 네트워크 큐로 전달합니다. 즉, Promise.all은 요청을 '순차적으로 배분'해 주는 도구가 아니라, '이미 동시에 시작된 작업들이 모두 완료될 때까지 기다리는' 집계용 유틸리티에 불과합니다.
또한 서버 측에서는 무차별적인 요청 폭주(DDoS 형태)로부터 시스템 리소스를 보호하기 위해 IP 또는 토큰 기반의 속도 제한(Rate Limiting) 정책을 운영합니다. 클라이언트가 동시에 수십 개 이상의 커넥션을 열어젖히면 서버의 Nginx, API 게이트웨이, 또는 백엔드 애플리케이션 계층에서 연결을 거절하고 연결을 끊어버립니다.
더불어 클라이언트 브라우저 환경에서도 동일 도메인당 동시 TCP 소켓 연결 수가 제한되어 있기 때문에, 지나치게 많은 요청을 큐에 쌓아두면 소켓 대기열(Stalled/Queueing) 시간이 길어져 브라우저 자체의 가용 메모리 급증과 메인 스레드 렌더링 지연이 유발됩니다.

확인 순서: 네트워크 탭 분석과 동시성 한계치 산정
문제를 해결하기 위해서는 먼저 현재 시스템이 견딜 수 있는 적정 동시성(Concurrency) 수준을 파악해야 합니다. 첫 번째 단계로 개발자 도구의 네트워크(Network) 패널을 열어 대량 요청 작업이 실행될 때의 워터폴(Waterfall) 차트를 확인합니다. 요청들이 실제로 병렬 처리되는지, 아니면 대기열(Queueing)에서 수 초씩 지연되다가 서버로부터 429나 504 게이트웨이 타임아웃을 받는지 확인해야 합니다.
두 번째로 연동하려는 백엔드 API의 공식 사양을 점검하여 허용되는 초당 요청 수(RPS)나 분당 요청 수(RPM)를 확인합니다. 만약 사내 내부망 API이거나 별도 명세가 없는 환경이라면, 동시 요청 수를 1개부터 시작해 3개, 5개, 10개로 점진적으로 높여가며 서버 응답 시간과 프론트엔드 반응성을 측정하는 가상 테스트를 진행합니다.
세 번째로는 요청 실패 시의 재시도 정책을 점검합니다. 동시성 제어가 없으면 실패한 요청들이 한꺼번에 재시도되면서 문제를 더 악화시키는 스톰(Storm) 현상이 생기므로, 요청 파이프라인에서 최대 동시 작업 수를 상수로 고정할 수 있는 구조인지 기존 코드를 점검해야 합니다.

해결 예시: 순수 자바스크립트 비동기 워커 풀 패턴 구현
가장 안정적이고 외부 라이브러리(p-limit 등) 의존성 없이 활용할 수 있는 해결책은 비동기 워커 풀(Worker Pool) 패턴입니다. 고정된 개수의 일꾼(워커)을 비동기 함수로 띄워두고, 하나의 공통 큐(배열 인덱스)에서 작업 단위를 하나씩 꺼내어 처리하게 만들면 항상 지정된 동시 실행 수만 유지됩니다.
구현 예시는 다음과 같습니다. 전체 처리할 데이터 배열, 작업당 비동기 실행 함수, 그리고 동시 실행 한도(concurrency)를 매개변수로 받는 함수를 정의합니다. 인덱스 포인터를 0으로 초기화한 뒤, 한도 수만큼 비동기 worker 루프를 즉시 실행하고 이 워커들의 완료를 Promise.all로 묶습니다. 각 워커는 while 루프를 돌며 인덱스가 배열 길이에 도달할 때까지 요소를 하나 꺼내어 await으로 처리하고 결과를 결과 배열에 순서대로 담습니다.
이 방식을 적용하면 예를 들어 100개의 요청이 있더라도 동시 실행 한도를 5로 지정했을 때 정확히 5개의 요청만 네트워크 탭에 활성화됩니다. 5개 중 하나가 완료되면 즉시 대기 중인 6번째 요청이 실행되므로, 브라우저 소켓이 막히지 않고 서버의 요청 제한 정책을 위반하지 않으면서도 최대 속도로 작업을 완주할 수 있습니다.

재발 방지: 개별 실패 격리와 백오프 재시도 설계
동시 실행 제어 함수를 구축한 후에도 네트워크 일시 단절이나 특정 데이터 오류로 인해 개별 요청이 실패할 수 있습니다. 이를 방어하지 않으면 하나의 요청 실패로 인해 전체 워커 루프가 비정상 종료되거나 전체 배치가 취소될 수 있습니다.
따라서 워커 내부의 개별 작업 처리 부분에 반드시 try-catch 블록을 적용해야 합니다. 작업이 실패하더라도 에러 객체를 결과 배열에 명시적으로 기록하고 다음 큐의 작업을 이어서 처리하도록 설계합니다. 또한 일시적인 네트워크 지연이나 429 상태 코드가 반환되었을 때는 즉각 실패로 처리하기보다 1~2초가량의 지수 백오프(Exponential Backoff) 대기 후 최대 2~3회 재시도하도록 래퍼 함수를 감싸는 것이 좋습니다.
마지막으로 대량 배치 처리를 진행할 때는 UI가 멈춘 것처럼 보이지 않도록 완료된 개수를 카운팅하여 진행률(Progress Bar) 콜백을 함께 호출해 주는 구조를 유지하면, 운영 도구를 직접 다루는 사용자에게도 직관적이고 안정적인 실행 경험을 제공할 수 있습니다.
