요청 제한
요청 제한은 지정된 기간 내에 사용자 또는 클라이언트가 당사 서비스에 액세스할 수 있는 횟수에 대해 당사 API가 적용하는 제한입니다.
제한이 필요한 이유
모두에게 최상의 경험을 제공할 수 있도록 당사 API에 요청 제한을 적용했습니다. 요청 제한이 중요한 이유는 다음과 같습니다.
-
서비스를 안전하고 안정적으로 유지하기 위해서입니다! 요청 제한을 친절한 출입 관리자로 생각해 보세요. 누구도 한 번에 너무 많은 요청으로 당사 API에 과부하를 주지 못하도록 합니다. 이를 통해 잠재적인 오용으로부터 서비스를 보호하고 모든 것이 원활하게 실행되도록 유지할 수 있습니다.
-
모두가 공평하게 사용할 수 있도록 하기 위해서입니다. 놀이터에서 장난감을 나누어 쓰는 것처럼, 모든 사용자가 API에 동등하게 액세스할 수 있도록 하고자 합니다. 각 사용자가 보낼 수 있는 요청 수를 적절히 제한함으로써, 누구도 자신의 차례를 너무 오래 기다리지 않도록 합니다.
-
성능을 빠르고 안정적으로 유지하기 위해서입니다. 전체 요청 흐름을 관리함으로써 모든 멋진 사용자에게 빠른 응답 시간과 안정적인 서비스를 유지할 수 있습니다. 고속도로가 너무 붐비지 않도록 하는 것과 같습니다. 혼잡을 방지하면 교통 흐름이 더 좋아집니다!
제한 작동 방식
요청 제한은 2가지 방식으로 측정됩니다.
- 초당 요청 수: 초당 보낼 수 있는 네트워크 요청 수입니다.
- 대기열 작업: 특정 시점에 대기열에서 동시에 실행할 수 있는 생성 작업 수입니다.
대기열 작업에는 텍스트로 3D, 이미지로 3D, 텍스트로 텍스처, 리메시 endpoint가 포함됩니다. Upload 및 잔액 같은 다른 endpoint는 이 제한에 포함되지 않습니다.
제한은 계정별로 적용됩니다. 즉, 모든 API key에서 제한이 공유됩니다.
요청 제한 외에도 작업 처리 우선순위가 작업 속도에 영향을 줍니다.
각 사용자 등급에는 해당 요구 사항에 맞게 설계된 특정 요청 제한과 우선순위 수준이 있습니다. 등급별 현재 제한은 다음과 같습니다.
| 사용자 등급 | 초당 요청 수 | 대기열 작업 | 우선순위 수준 |
|---|---|---|---|
| Pro | 20 | 10 | 기본값 |
| Premium | 20 | 30 | Pro보다 높음 |
| Ultra | 20 | 100 | 가장 높음 |
| Studio | 20 | 20 | Pro보다 높음 |
| Enterprise | 100 | 기본값은 50이며, 사용자 지정 가능 | 가장 높음 |
이러한 제한을 초과하면 당사 API에서 429 Too Many Requests 응답을 받게 됩니다. 이를 트리거할 수 있는 hit에는 두 가지 유형이 있으며, 각각 다른 응답을 반환합니다.
- Request Hit: 초당 너무 많은 요청을 보낼 때 발생합니다.
RateLimitExceeded메시지와 함께429 Too Many Requests응답을 받게 됩니다. - Queue Hit: 동시에 실행 중인 생성 작업이 너무 많을 때 발생합니다.
NoMoreConcurrentTasks메시지와 함께429 Too Many Requests응답을 받게 됩니다.