목표

• 앞서 우리 서비스의 평균적인 상황에 대해 가정을 하였고, 목표치는 다음과 같이 결정하였다.
  • TPS: 110
  • Latency: p95 300ms
• TPS의 경우 Peak 타임을 고려하고, 10~20%정도 여유분을 두어야 하므로 대략 가중치 2를 곱해주어 다음과 같이 결정하였다.
  • Peak TPS: 2 * 110 = 220 → 300 (여유분)
• 정리하면 다음과 같다.
  • TPS: 300
  • 목표 Latency: 전체 p95 300ms

환경

• 백엔드 서버
  • ALB
    • t3.small (2 vCPU, 2GB)
    • t3.small (2 vCPU, 2GB)
• K6 서버
  • t3.xlarge (4 vCPU, 16GB)

VUser를 조절해가며 목표 TPS 300 및 목표 응답속도 P95 < 200ms 를 만족하는지 확인

1차 테스트

TPS 200 ✅

• 스레드 풀 및 CPU/메모리 사용량은 안정적이다.