Network Load Balancer(NLB) Guide - cloud-barista/cb-spider GitHub Wiki

CB-Spider Network Load Balancer Guide

1. CB-Spider NLB Overview

사용자는 VPC 내의 VM을 향한 외부의 Client 요청 및 입력 스트림에 대한 부하 분산(Load Balancing)을 관리하기 위해서
- 그림과 같이 특정 VPC에 소속되는 Network Load Balancer(이하 NLB)를 생성 및 구성할 수 있다.
- NLB 생성시에 대상 VM(VM Group)을 함께 설정할 수도 있고, NLB 생성 후에 VM을 추가할 수도 있다.
- 예외: KT NLB는 VPC가 아닌 Subnet 대상으로 생성이 가능하다.
  - KT NLB는 대상 VM(VM Group)과 함께 생성하는 방식만 지원하며, 설정한 VM이 속한 Subnet에 NLB가 생성된다.
  - 또한, NLB와 동일한 Subnet의 VM들만 VM Group에 추가 및 운영이 가능하다.
NLB는 Public 타입과 Internal 타입을 선택하여 생성할 수 있다.
- Public 타입(default): 외부 인터넷을 통한 사용자의 클라이언트 스트림에 대한 부하 분산
- Internal 타입: 내부 VM 간의 스트림에 대한 부하 분산
- Public 타입 제공 중심으로 선개발 및 우선 활용
NLB는 Region 범위와 Global 범위의 운영을 선택하여 생성할 수 있다.
- Regional NLB(default): 단일 Region에서 운영되는 로드 밸런서
- Global NLB: 멀티 Region에서 운영되는 로드 밸런서
- Regional NLB 제공 중심으로 선개발 및 우선 활용

2. CB-Spider NLB Components

NLB는 그림과 같이 프론트엔드(Frontend) 영역과 백엔드(Backend) 영역으로 구분되며, 영역별 주요 구성 요소는 다음과 같다.

[NLB-Frontend Tier]

(1) 프론트엔드 리스너(Frontend Listener)
- 리스너는 Client의 요청 및 입력 스트림을 수신하여 백엔드 영역의 VM그룹으로 전달한다.
- 하나의 NLB는 하나의 리스너를 포함하며, 수신 프로토콜, IP 및 수신 포트로 구성된다.
- 선택 가능한 수신 프로토콜은 TCP 및 UDP이며, IP는 CSP 또는 대상 Driver에서 자동 생성 및 관리된다.
- 수신 포트는 1-65535 범위의 값으로 설정이 가능하다.
- ※ 리스너 IP와 DNS-Name: 둘다 제공하거나 둘중 하나만 제공할 수 있음

[NLB-Backend Tier]

(2) 백엔드 VM 그룹(Backend VM Group)

VM 그룹은 동일한 서비스(nginx, redis, 사용자 개발 서비스 등)를 제공하는 VM들의 집합이며, VM은 등록 또는 제외가 가능하다.
VM 그룹에 포함될 수 있는 VM은 NLB와 동일한 VPC에 속해 있는 VM들로 한정된다.
하나의 NLB는 하나의 VM 그룹을 포함하며, VM 그룹은 수신 프로토콜, 수신 포트 및 VM들로 구성된다.
선택 가능한 수신 프로토콜은 TCP, UDP이며,
VM 그룹은 하나의 수신 포트를 설정할 수 있다. (포트범위: 1-65535)
VM 그룹 내의 VM들은 VM 그룹 설정과 동일한 프로토콜 및 포트 번호를 통해서 서비스 제공이 가능하다.

(3) 헬스 체크기(Health Checker)

하나의 NLB는 하나의 헬스 체크기를 포함하며,
헬스 체크기는 VM 그룹에 포함된 VM들의 헬스 상태 정보를 제공한다.
- Healthy VM 목록, Unhealthy VM 목록 등 제공
- 추가된 VM의 최초 헬스 상태 체크는 수초~수분 정도 소요
헬스 체크기의 선택 가능한 프로토콜은 TCP 및 HTTP이며,
VM 그룹에 소속된 VM들의 헬스 상태를 체크하기 위해서 VM 그룹과 동일한 포트를 활용하거나
별도의 헬스 체크 전용 포트(그림에서 Port 81)를 별도로 설정할 수 있다.
각 VM의 서비스 포트 및 헬스 체크용 포트 용도의 서비스 데몬은 사용자에 의해 준비되어야 한다.
헬스 체크기는 상태 체크 주기(Interval), Timeout 및 Threadhold 값을 설정할 수 있으며,

사용자가 값을 설정하지 않거나, default 값을 명시할 경우, default 값이 설정된다.

※ cf) Health Check Interval, Timeout, Threshold default 값 및 설정 조건 등

[Interval]

CSP	TCP `default`	HTTP `default`	설정 조건, 범위 및 특이사항
AWS	10	10	* 범위: 10, 30만 가능
Azure	10	10	* 범위: 5 이상 * 조건: Interval * Threshold < 2147483647
GCP	10	10	* 범위: 1~300 * 조건: Timeout <= Interval
Alibaba	10	10	* 범위: 1~50
Tencent	10	10	* 범위: 2~300 * 조건: Timeout <= Interval
IBM	10	10	* 범위: 2~60 * 조건: Timeout < Interval
OpenStack	10	10	* 범위: 2147483647(int 최대값) * 조건: Timeout <= Interval
NCP	10	10	* 범위: 5~300
NHN	10	10	* 범위: 1~5000 * 조건: Timeout < Interval

[Timeout]

CSP	TCP `default`	HTTP `default`	설정 조건, 범위 및 특이사항
AWS	10	6	* 설정 불가 * TCP: 10s, HTTP: 6s 고정
Azure	10	10	* 설정 불가 * Interval과 Azure default Timeout(`30`) 중 작은 값
GCP	10	6	* 범위: 1 이상 * 조건: Timeout <= Interval
Alibaba	10	6	* 범위: 1~300
Tencent	10	6	* 범위: 2~60 * 조건: Timeout <= Interval
IBM	9	6	* 예외 * 조건: Timeout < Interval
OpenStack	10	6	* 범위: 2147483647(int 최대값) * 조건: Timeout <= Interval
NCP	10	6	* 범위: 1~3600
NHN	10	6	* 범위: 1~5000 * 조건: Timeout < Interval

[Threshold]

CSP	TCP `default`	HTTP `default`	설정 조건, 범위 및 특이사항
AWS	3	3	* 범위: 2~10
Azure	3	3	* 범위: 1 이상 * 조건: Interval * Threshold < 2147483647
GCP	3	3	* 범위: 1~10
Alibaba	3	3	* 범위: 2~10
Tencent	3	3	* 범위: 2~10
IBM	3	3	* 범위: 1~10
OpenStack	3	3	* 범위: 1~10
NCP	3	3	* 범위: 2~10
NHN	3	3	* 범위: 1~10

※ 서비스 그룹 오토 스케일링(Service Group Auto-Scaling)

오토 스케일링 정의 및 지원 여부 등 추후 고려

3. CB-Spider NLB Operation Flow

NLB 주요 동작 흐름은 다음과 같다.
- ① Client -> Frontend 서비스 요청
  - Client는 TCP, HTTP 또는 UDP 프로토콜 기반으로 Frontend 리스너 IP 및 리스너 포트를 통해서 서비스를 요청한다.
  - Client의 HTTP 프로토콜 호출의 경우 VMGroup 수신 프로토콜이 TCP의 경우 가능하다.
- ② Frontend -> Backend 서비스 라우팅
  - 리스너에 의해 수신된 사용자 요청은 TCP 또는 UDP 기반으로 VM 그룹 포트로 라우팅 된다.
- ③ 라우팅 대상 VM 선정 및 라우팅 (대상 CSP에서 수행)
  - VM 그룹에 포함된 VM들 중 Healthy 상태의 VM에게 Client 요청 및 입력 스트림을 라우팅 한다.
  - VM 그룹에 포함된 모든 VM들이 Unhealthy 상태인 경우 CSP별로 다음과 같이 동작 한다.
    - VM 그룹에 포함된 모든 VM에 라우팅하는 CSP: AWS, GCP, Tencent
    - Client 스트림을 라우팅하지 않는 CSP: Azure, IBM
- ※ Health Checking
  - 헬스 체크기는 주기적으로 VM 그룹에 포함된 VM의 Health 상태를 파악하고 제공한다.

5. CB-Spider NLB API 활용

CB-Spider NLB API Swagger UI

API Usage Examples

NLB 생성: VMGroup 설정 제외, HealthCheck 주기 등 생략(default 설정)

curl -sX POST http://localhost:1024/spider/nlb \
  -H 'Content-Type: application/json' \
  -d '{
       "ConnectionName": "aws-config01",
       "ReqInfo": {
         "Name": "nlb-01",
         "VPCName": "vpc-01",
         "Type": "PUBLIC",
         "Scope": "REGION",
         "Listener": {
           "Protocol": "TCP",
           "Port": "22"
         },
         "HealthChecker": {
           "Protocol": "TCP",
           "Port": "22"
         }
       }
     }'

NLB 생성: VMGroup(vm-01, vm-02) 설정, HealthCheck 주기 등 default 설정

curl -sX POST http://localhost:1024/spider/nlb \
  -H 'Content-Type: application/json' \
  -d '{
       "ConnectionName": "aws-config01",
       "ReqInfo": {
         "Name": "nlb-01",
         "VPCName": "vpc-01",
         "Type": "PUBLIC",
         "Scope": "REGION",
         "Listener": {
           "Protocol": "TCP",
           "Port": "22"
         },
          "VMGroup": {
           "Protocol": "TCP",
           "Port": "22",
           "VMs": ["vm-01", "vm-02"]
         },
         "HealthChecker": {
           "Protocol": "TCP",
           "Port": "22",
           "Interval": "default",
           "Timeout": "default",
           "Threshold": "5"
         }
       }
     }'

VM Group 상태 정보 확인

curl -X 'GET' 'http://localhost:1024/spider/nlb/nlb-01/health?ConnectionName=aws-config01' \
  -H 'accept: application/json'

{
   "healthinfo" : {
      "AllVMs" : [
         {
            "NameId" : "vm-02",
            "SystemId" : "i-0747a8efd719fa1a7"
         },
         {
            "NameId" : "vm-01",
            "SystemId" : "i-06a0dc51237bc777d"
         }
      ],
      "HealthyVMs" : [
         {
            "NameId" : "vm-02",
            "SystemId" : "i-0747a8efd719fa1a7"
         },
         {
            "NameId" : "vm-01",
            "SystemId" : "i-06a0dc51237bc777d"
         }
      ],
      "UnHealthyVMs" : []
   }
}

NLB 삭제

curl -X 'DELETE' 'http://localhost:1024/spider/nlb/nlb-01' \
  -H 'Content-Type: application/json' \
  -d '{
  "ConnectionName": "aws-config01"
}'