POST https://dev-backend.onthe-top.com/api/v1/ai-images
Content-Type: multipart/form-data
Authorization: Bearer <token>

요청 body:

{
  "prompt": "미니멀하고 화이톤의 셋업",
  "beforeImagePath": <파일>
}

K6 부하 스크립트:

import http from 'k6/http';
import { check } from 'k6';

export let options = {
  vus: 5,
  duration: '1s',
};

const image = open('./test.png', 'b');

export default function () {
  const formData = {
    prompt: '미니멀하고 화이톤의 셋업',
    beforeImagePath: http.file(image, 'test.png', 'image/png'),
  };
  const headers = {
    Authorization: 'Bearer <token>',
  };

  let res = http.post('https://dev-backend.onthe-top.com/api/v1/ai-images', formData, { headers });

  check(res, {
   '200 OK': (r) => r.status === 200,
  });
}

• 다양한 동시 사용자 수 (VU)에 따른 Spring Boot + FastAPI 기반 AI 이미지 생성 API의 부하 응답 평가
• 각 케이스에서 응답 시간, 실패율, CPU/MEM 사용률 수집
• Docker 컨테이너 리소스 제한 (--cpus, --memory) 조정하며 적절한 스펙을 도출

⠀Scouter Java Agent 미사용(버전이슈) → 대체 전략

• Scouter Host Agent + docker stats + k6 지표 조합으로 측정

• N1명의 동시 사용자가 N2초 이내 응답을 받을 수 있어야 함 -> 그걸 만족하는 도커 스펙을 검색.

• 이런 방식은 트래픽 예측 + SLA 기반으로 스펙을 결정
• 보통 규모 있는 서비스나 실제 사용량이 확보된 상태에서 가능

⠀문제점: 초기에 트래픽이 없으면 "목표" 자체가 불확실

• N1코어 / N2GB 컨테이너에서 VU N3명을 버틸 수 있어야함 → 이것을 baseline으로 삼아 산정.

• 지금처럼 예산, 인프라, 실험 인원이 정해진 상황에서는 이 방식이 더 현실적
• 일단 리소스를 고정한 상태에서 “얼마나 감당 가능한가”를 테스트함
• 이후 결과를 기준으로 “이 스펙으로 최대 얼마까지 가능한지”를 추정

리소스 기반 추정으로, “1코어 / 1GB 스펙에서 최대 몇 명의 동시 접속자가 가능하고, 이때 성능은 어떤가”를 실측 → 이걸 기반으로 운영 스펙, Auto Scaling 기준, 예산 계획 등을 역산

현재 조건 요약:

• 주요 부하 지점: /api/v1/ai-images (Spring Boot + FastAPI 연동)
• Scouter Java Agent 사용 불가 → 대신 docker stats + 리눅스 모니터링 도구로 리소스 수집
• 목표: 도커 CPU/메모리 스펙 산정

⠀

• 테스트 대상 컨테이너 초기값:
### --cpus="1.0" --memory="1024m"
• 이후 단계별로 리소스 제한을 증가시키며 부하에 따른 변화 관찰

⠀

"VU 수가 주어졌을 때, 그걸 감당할 수 있는 컨테이너 스펙 (vCPU, Memory)을 정확히 추산"

• 2 vCPU → VU 2에서 CPU 91.7%, TPS 30 (안정적으로 감당) 단순 역산 (1 VU당 필요한 자원 추정)
• vCPU ≒ 1 VU당 1 vCPU / 2 (즉, 0.5 vCPU)
• Memory ≒ 약 750MB/VU (메모리 사용량은 거의 일정함) 
* 2 vCPU 머신에서 동시 사용자 2명(VU 2) 부하를 걸었을 때 CPU 사용률이 **91.7%**였고, TPS 30 정도로 안정적으로 처리됨.

vCPU ≒ 1 VU당 1 vCPU / 2 (즉, 0.5 vCPU) 2 vCPU 머신에서 2 VU를 처리했지만, 1 VU가 차지한 vCPU는 2 vCPU ÷ 2 VU = 1 vCPU per VU가 아니라, CPU 사용률이 91.7%였으므로 완전한 2 vCPU를 다 쓴 건 아니기 때문에 여유를 둬서 "1 VU ≒ -0.5 vCPU"로 잡음 즉, VU 1명을 감당하는 데 약 0.5 vCPU가 필요하다고 추정.

Memory ≒ 약 750MB/VU (메모리 사용량은 거의 일정함) 테스트 도중 메모리 사용량을 모니터링해보니, VU 수가 늘어나도 메모리는 거의 선형적으로 증가함. 즉, VU 1명당 약 750MB 정도 메모리를 쓰는 것으로 판단

• 방법 1

총 메모리 = VU × 750MB

ex)이걸 바탕으로 만약 VU 수가 10명이라면 최소 스펙은 → 5 vCPU, 7.5GB RAM 정도 필요하다고 추산

• 방법 2

         ≈ 700MB + (VU × 250MB)

ex)VU 1명 → 0.5 vCPU, 700MB + 250MB = 950MB → 1GB ex)VU 3명 → 1.5 vCPU, 700MB + (3×250) = 1.45GB → 2GB 정도

• (VU당 메모리) 계산시

• (기본 메모리) + (VU당 메모리) 계산시

Google Cloud 가격 계산기

Google Cloud 가격 계산기

1 vCPU / 1.5GB가 가장 효율적 (TPS당 비용이 가장 낮고, 안정성도 우수)

• (VU당 메모리) 계산시

• (기본 메모리) + (VU당 메모리) 계산시