File Storage Guide - cloud-barista/cb-spider GitHub Wiki
1. CB-Spider File Storage ๊ฐ์
-
CB-Spider๋ ์ฐ๋ ๋์ ํด๋ผ์ฐ๋(CSP)๊ฐ ์ ๊ณตํ๋ File Storage(AWS EFS, Azure Files, GCP Filestore ๋ฑ)๋ฅผ
- ๋์ผํ ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉํ์ฌ ์ ์ดํ ์ ์๋ File Storage ์ ์ด ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ค.
-
CB-Spider๊ฐ ์ ๊ณตํ๋ File Storage ์ ๊ณต ํ์์ ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ๊ณ , ์ธ๋ถ ๋ด์ฉ์ ๋ค์๊ณผ ๊ฐ๋ค.
- CB-Spider File Storage๋ ํ์ผ์ ์ ์ฅ ๊ด๋ฆฌํ๋
File System
๊ณผ File System์ ์ ๊ทผ ํ ์ ์๋Mount Target
์ผ๋ก ๊ตฌ์ฑ๋๋ค. - ์ฌ์ฉ์๋ File System ์์ฑ ์์ฒญ์์ ์์ฑ๋ File System์ ์ ๊ทผํ ์ ์๋
AccessSubnet
์ ์ค์ ํ ์ ์๋ค. - AccessSubnet๋ File System๊ณผ ๋์ผํ VPC ๋ด๋ถ์ ์์ฑ๋ Subnet์ผ๋ก ํ์ ๋๋ฉฐ, File System ์์ฑ ํ์๋ ์ถ๊ฐ/์ญ์ ๊ฐ ๊ฐ๋ฅํ๋ค.
- ์์ฑ๋ File System์ AccessSubnet์ ์กด์ฌํ๋ ๋ชจ๋ VM์์ ์ ๊ทผ ๋ฐ ํ์ฉ ๊ฐ๋ฅํ๋ค.
- CB-Spider๋ ๊ฐ CSP์ File System ์ ๊ณต ํ์์ ๋ฐ๋ผ AccessSubnet ๋ชฉ๋ก์ ํ๊ฐ ์ด์์
Mount Target
์ ์๋ ์์ฑ ๊ด๋ฆฌํ๋ค. - CB-Spider๋ฅผ ํตํ File Storage ํ์ฉ ๋ฐฉ๋ฒ์ ๋ค์๊ณผ ๊ฐ๋ค.
- (1) Create File System: File System์ ์์ฑํ๋ค.
- File System์ ์์ฑ ์์ฒญํ๋ฉด, File System๊ณผ AccessSubnet ๋ชฉ๋ก์ ํ๊ฐ ์ด์์ Mount Target์ด ํจ๊ป ์์ฑ๋๋ค.
- Mount Target์ ์์ฑ๋ ํ์ผ ์์คํ ์ AccessSubnet์ ์กด์ฌํ๋ VM์์ Mountํ ์ ์๋ ์ฐ๊ฒฐ ํฌ์ธํธ๋ฅผ ์ ๊ณตํ๋ฉฐ,
- Mount Target์ NFS ํ๋กํ ์ฝ ๋ฒ์ 3 ๋๋ ๋ฒ์ 4 Mount๋ฅผ ์ง์ํ๋ฉฐ, NFS ์ ๊ณต ๋ฒ์ ์ข ๋ฅ๋ CSP๋ง๋ค ์ฐจ์ด๊ฐ ์๋ค.
- โป ํ์ฌ Spider๋ SMB ํ๋กํ ์ฝ์ ๋ฏธ์ ๊ณต
- (2) Mount File System: ์์ฑ๋ File System์ Mount ๋ฐ ํ์ฉ ํ๋ค.
- ์์ฑ๋ File System์ Mount Target ์ ๋ณด ๋ฐ Mount ์คํ ์ ๋ณด ๋ฑ์ CB-Spider API๋ฅผ ํตํด์ ์ ๊ณต๋๋ฉฐ,
- ์ ๊ณต๋๋ Mount ์ ๋ณด๋ฅผ ์ด์ฉํ์ฌ ์์ฑ๋ File System์ Mountํ์ฌ ํ์ผ์ ์ ์ฅ ๋ฐ ๊ด๋ฆฌํ ์ ์๋ค.
- ์ด๋ ์ ๊ณต๋๋ Mount Target ์ ๋ณด ํ์ ๋ฐ ๊ด๋ จ ์ ๋ณด๋ ๋์ CSP๋ณ๋ก ๋ค๋ฅผ ์ ์๋ค.
- (1) Create File System: File System์ ์์ฑํ๋ค.
- CB-Spider File Storage๋ ํ์ผ์ ์ ์ฅ ๊ด๋ฆฌํ๋
2. CB-Spider File Storage: File System ์ค์ ๋ฐฉ๋ฒ
-
File Storage๋ CSP์ ๋ฐ๋ผ ์๋ก ๋ค๋ฅธ ๋ณต์กํ ์์ฑ ์ต์ (access control, performance ์ค์ ๋ฑ)๋ค์ ์ ๊ณตํ๋ค.
-
CB-Spider๋ ๋ค์๊ณผ ๊ฐ์ด
Basic Setup(๊ธฐ๋ณธ ์ค์ )
๋๋Advanced Setup(๊ณ ๊ธ ์ค์ )
๋ฐฉ๋ฒ์ผ๋ก File System ์์ฑ์ ์์ฒญํ ์ ์๋ค.- 1. Basic Setup(Common)
- ์ถ์ํ๋ ๊ณตํต ์ต์ ์ ์ฌ์ฉํ์ฌ ๋์ผํ ๋ฐฉ๋ฒ์ผ๋ก File System์ ์์ฑ ์์ฒญํ ์ ์๋ค.
- ์ค์ ๋์ง ์๋ ๋๋จธ์ง ๋ณต์กํ ์ต์ ์ ๊ฐ CSP์ Default ๊ฐ์ผ๋ก ์ค์ ๋๋ค.
- 2. Advanced Setup(CSP-Specific)
- CSP๋ณ๋ก ํนํ๋ ์ค์ ์ผ๋ก File System์ ์์ฑ ์์ฒญํ ์ ์๋ค.
- CSP๋ณ๋ก ์๋ก ๋ค๋ฅธ ์ค์ ์ต์
์ ์ ๊ณตํ๊ธฐ ์ํด์ ํ์คํ๋
Meta API
๋ฅผ ์ ๊ณตํ๋ค.
- 1. Basic Setup(Common)
-
์ฌ์ฉ์๋ ๋ค์๊ณผ ๊ฐ์ ํ๋ฆ์ผ๋ก Meta API๋ฅผ ์ฌ์ฉํ์ฌ CSP์ ํนํ๋ File System ๋ฐฐํฌ๊ฐ ๊ฐ๋ฅํ๋ค.
- (1) ๋์ CSP์ ์ค์ ๊ธฐ๋ฅ ์ ๊ณต ์ฌ๋ถ๋ฅผ ํ์ธํ๋ค.
- (2) ๋์ CSP์ ์ค์ ๊ฐ๋ฅํ ์ต์ ์ ๋ณด๋ฅผ ์ป๋๋ค.
- (3) ๋์ CSP์ ํนํ๋ ์ต์ ์ค์ ์ผ๋ก File System์ ์์ฑ ์์ฒญํ๋ค.
3. CB-Spider File Storage: Region Type ๋ฐ Zone Type ์ค์
-
File Storage๋ Region์ File System์ ๋ฐฐํฌํ๋ Region Type๊ณผ Zone์ ๋ฐฐํฌํ๋ Zone Type์ ์ ํ ๊ฐ๋ฅํ๋ฉฐ,
- CSP์ ๋ฐ๋ผ Region Type๊ณผ Zone Type ๋ ๋ค ์ค์ ๊ฐ๋ฅํ๊ฑฐ๋, ๋ ์ค ํ๊ฐ์ง Type๋ง ์ค์ ๊ฐ๋ฅํ ์๋ ์๋ค.
-
CB-Spider File Storage๋ ๋ค์๊ณผ ๊ฐ์ด Basic Setup(๊ธฐ๋ณธ ์ค์ ) ๋๋ Advanced Setup(๊ณ ๊ธ ์ค์ ) ๋ฐฉ๋ฒ์ผ๋ก File System Type ์ค์ ์ ์ง์ํ๋ค.
- 1. Basic Setup(Common)
- ์ฌ์ฉ์๋ ๋ณ๋์ Region Type ๋๋ Zone Type์ ์ค์ ํ์ง ์์ผ๋ฉฐ,
- Spider๋ ๊ฐ CSP์ Default Type ์ค์ ์ผ๋ก File System์ ์์ฑ ๋ฐ ์ ๊ณตํ๋ค.
- ๋จ, ์์ฑ๋ File System์ Type ์ข
๋ฅ์ ๋ฐ๋ผ File System์ ์ ๊ทผ ๊ฐ๋ฅํ VM์ ๋ฒ์๊ฐ
- ๋์ผ VPC(Region Type) ๋๋ ๋์ผ Zone(Zone Type)์ผ๋ก ํ์ ๋๋ค.
- 2. Advanced Setup(CSP-Specific)
- CB-Spider ์ ๊ณต Type์ ๊ทธ๋ฆผ์์ ๋ณด๋ ๋ฐ์ ๊ฐ์ด,
Region Type
๊ณผZone Type
์ผ๋ก ๊ตฌ๋ถ๋๋ค.- Region Type: Region ๋ด File System๊ณผ ๋์ผ VPC์
Access Subnet
๋ค์ ํฌํจ๋ VM์์ Mount Target์ Mountํ์ฌ ์ ๊ทผ ๊ฐ๋ฅํ๋ค. - Zone Type: ๋์ผํ Zone์
Access Subnet
๋ค์ ํฌํจ๋ VM์์ Mount Target์ Mountํ์ฌ ์ ๊ทผ ๊ฐ๋ฅํ๋ค.
- Region Type: Region ๋ด File System๊ณผ ๋์ผ VPC์
- Region Type์ ๋ค์
VPC-based Shared File Storage
์Zone-based Shared File Storage
๋ก ๊ตฌ๋ถ๋๋ค.- VPC-based Shared File Storage: VPC ๋ด์ ํ๋์ Mount Target์ ๊ณต์ ํ๋ค.
- Zone-based Shared File Storage: VPC ๋ด์ Zone ๋น ํ๋์ Mount Target์ ๊ณต์ ํ๋ค.
- ์ฌ์ฉ์๋ Meta API๋ฅผ ํ์ฉํ์ฌ ๋์ CSP๊ฐ ์ ๊ณตํ๋ File Storage Type ์ข ๋ฅ๋ฅผ ํ์ธํ ์ ์์ผ๋ฉฐ,
- CB-Spider ์ ๊ณต Type์ ๊ทธ๋ฆผ์์ ๋ณด๋ ๋ฐ์ ๊ฐ์ด,
- Meta API ์ ๊ณต ์ ๋ณด
- ๋์ CSP๊ฐ ์ ๊ณตํ๋ File Storage Type ์ ๋ณด ๋ฑ
- 1. Basic Setup(Common)
4. CB-Spider File Storage: Access Control ๊ฐ์
-
File Storage๋ CSP์ ๋ฐ๋ผ ์๋ก ๋ค๋ฅธ ๋ณต์กํ Access Control ๋ฐฉ๋ฒ ๋ฐ ์ต์ ๋ค์ ์ ๊ณตํ๋ค.
-
CB-Spider File Storage๋ ๋ณ๋์
Access Control
์ค์ ์ ์ ๊ณตํ์ง ์๋๋ค. -
CB-Spider๋ ๋ค์ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด,
- (1) ์์ญ๊ณผ ๊ฐ์ด File System๊ณผ ๋์ผ VPC ๋ด์ ์์(VM ๋ฑ)์ ๋ชจ๋ ์ ๊ทผ ๊ฐ๋ฅํ๋ฉฐ,
- (2),(3) ์์ญ๊ณผ ๊ฐ์ด VPC ์ธ๋ถ์์๋ ์ ๊ทผ์ด ๋ถ๊ฐ๋ฅํ๋ค.
- โป File System์ด ๋ฐฐํฌ๋ VPC์ ์ธ๋ถ๋ก๋ถํฐ ์ ๊ทผ์ด ํ์ํ ๊ฒฝ์ฐ: ์ฌ์ฉ์๋ ๊ฐ CSP๊ฐ ์ ๊ณตํ๋ ๋ฐฉ๋ฒ์ผ๋ก VPC Peering, VPN ๋ฑ์ ๋ณ๋ ์ค์ ํ์
5. CB-Spider File Storage: Capacity ์ค์
-
File Storage๋ CSP์ ๋ฐ๋ผ ์ฌ์ฉ์๊ฐ File System ์ฉ๋(์ต๋ Size)์ ์ค์ ํ์ง ์๊ณ ์๋ ๊ด๋ฆฌํด์ฃผ๊ฑฐ๋,
-
์ฌ์ฉ์๊ฐ ํ์ฉํ๊ณ ์ ํ๋ ์ต๋ Size๋ฅผ ์ค์ ํด์ผ ํ ์ ์๋ค.
- ์ด ๊ฒฝ์ฐ CSP๋ณ, File System ํ์ ๋ณ๋ก ์ค์ ๊ฐ๋ฅํ Size ๋ฒ์๊ฐ ๋ค๋ฅด๋ค.
-
CB-Spider File Storage๋ ๋ค์๊ณผ ๊ฐ์ด Basic Setup(๊ธฐ๋ณธ ์ค์ ) ๋๋ Advanced Setup(๊ณ ๊ธ ์ค์ ) ๋ฐฉ๋ฒ์ผ๋ก File System ์ฉ๋ ์ค์ ์ ์ง์ํ๋ค.
- 1. Basic Setup(Common)
- ์ฌ์ฉ์๋ ๋ณ๋์ ์ฉ๋ ์ต์ ์ ์ค์ ํ์ง ์์ผ๋ฉฐ,
- Spider๋ ๊ฐ CSP์ Default Size ์ค์ ์ผ๋ก File System์ ์์ฑ ๋ฐ ์ ๊ณตํ๋ค.
- 2. Advanced Setup(CSP-Specific)
- ์ฌ์ฉ์๋ Meta API๋ฅผ ํ์ฉํ์ฌ ์ฉ๋ ์ค์ ์ด ๊ฐ๋ฅํ CSP๋ฅผ ํ์ธํ ์ ์์ผ๋ฉฐ,
- Meta API๋ฅผ ํ์ฉํ์ฌ ๋์ CSP์์ ์ ๊ณตํ๋ Size ๋ฒ์ ์ต์ ์ ํ๋ํ์ฌ CSP์ ํนํ๋ ์ต๋ Size ์ค์ ์ด ๊ฐ๋ฅํ๋ค.
- Meta API ์ ๊ณต ์ ๋ณด
- ๋์ CSP์ Size ์ค์ ์ ๊ณต ์ฌ๋ถ
- ๋์ CSP์ ์ค์ ๊ฐ๋ฅํ Size ๋ฒ์ ์ ๋ณด ๋ฑ
- 1. Basic Setup(Common)
6. CB-Spider File Storage: Performance ์ค์
-
File Storage๋ CSP์ ๋ฐ๋ผ File System ์ฑ๋ฅ ์ค์ ์ ์ ๊ณตํ์ง ์๊ฑฐ๋,
-
Bandwidth, Throughput ๋ฑ๊ณผ ๊ฐ์ ์ฑ๋ฅ ์์ฑ์ ๋ํ ์ค์ ์ ์ ๊ณตํ ์ ์๋ค.
-
CB-Spider File Storage๋ ๋ค์๊ณผ ๊ฐ์ด Basic Setup(๊ธฐ๋ณธ ์ค์ ) ๋๋ Advanced Setup(๊ณ ๊ธ ์ค์ ) ๋ฐฉ๋ฒ์ผ๋ก File System ์ฑ๋ฅ ์ต์ ์ค์ ์ ์ง์ํ๋ค.
- 1. Basic Setup(Common)
- ์ฌ์ฉ์๋ ๋ณ๋์ ์ฑ๋ฅ ์ต์ ์ ์ค์ ํ์ง ์์ผ๋ฉฐ,
- Spider๋ ๊ฐ CSP์ Default ์ฑ๋ฅ ์ค์ ์ผ๋ก File System์ ์์ฑ ๋ฐ ์ ๊ณตํ๋ค.
- 2. Advanced Setup(CSP-Specific)
- ์ฌ์ฉ์๋ Meta API๋ฅผ ํ์ฉํ์ฌ ์ฑ๋ฅ ์ค์ ์ด ๊ฐ๋ฅํ CSP๋ฅผ ํ์ธํ ์ ์์ผ๋ฉฐ,
- Meta API๋ฅผ ํ์ฉํ์ฌ ๋์ CSP์์ ์ ๊ณตํ๋ ์ฑ๋ฅ ์ต์ ์ ํ๋ํ์ฌ CSP์ ํนํ๋ ์ฑ๋ฅ ์ต์ ์ค์ ์ด ๊ฐ๋ฅํ๋ค.
- Meta API ์ ๊ณต ์ ๋ณด
- ๋์ CSP์ ์ฑ๋ฅ ์ค์ ์ ๊ณต ์ฌ๋ถ
- ๋์ CSP๊ฐ ์ ๊ณตํ๋ ์ฑ๋ฅ ์ต์ ์ ๋ณด ๋ฑ
- 1. Basic Setup(Common)
7. CB-Spider File Storage: Encryption ์ค์
-
File Storage์ ์ํธํ(Encryption)๋ ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด
- (1) ๋คํธ์ํฌ ์ํธํ(Encryption in transit)์
- (2) ๋ฐ์ดํฐ ์ํธํ(Encryption at rest)๋ก ๊ตฌ๋ถํ ์ ์์ผ๋ฉฐ,
-
CB-Spider File System ์ํธํ ์ค์ ์ (1), (2) ๊ตฌ๋ถ ์์ด ์ํธํ ์ฌ๋ถ ์ค์ ๋ง์ ์ ๊ณตํ๋ค.
- CSP ์ง์ ์ฌ๋ถ์ ๋ฐ๋ผ, (1)+(2) ์ํธํ ๋๋ (2) ์ํธํ๋ง ์ ๊ณต๋ ์ ์๋ค.
8. CB-Spider File Storage: Backup ์ค์ /์คํ
-
File System์ ๋ฐฑ์ ์ ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด
- (1) File System ์์ฑ์ ๋๋ ์ด์์
Scheduled Backup
์ค์ ๊ณผ - (2) File System ์ด์์ ํ์ฌ ์์ ์
On-demand Backup
์คํ์ด ๊ฐ๋ฅํ๋ค.
- (1) File System ์์ฑ์ ๋๋ ์ด์์
-
Scheduled Backup ์ค์ ์ ๊ฒฝ์ฐ Default ๋ฐฑ์ ์ฃผ๊ธฐ๋ ๋งค์ผ ์๋ฒฝ 5์์ด๋ฉฐ, Cron ํ์์ ๋ฐฑ์ ์ฃผ๊ธฐ ์ค์ ์ด ๊ฐ๋ฅํ๋ค.
-
โป ์ฐธ๊ณ : Restore๋ ์ถํ ์ ๊ณต ๊ณ ๋ ค, ์ฌ์ฉ์๋ ํ์ ์์ ์ ๋์ CSP ์ฝ์ ํ์ฉ
-
โป ์ฐธ๊ณ : ํ์ฌ Azure๋ NFS ์ง์ File System์ ๊ฒฝ์ฐ ๋ฐฑ์ ์ ์ ๊ณตํ์ง ์์
9. CB-Spider File Storage: Replication ์ค์ /์คํ - TBD
-
โป CB-Spider ํ์ฌ ๋ฒ์ ์์๋ ์ ๊ณตํ์ง ์์ผ๋ฉฐ, ์ถํ ์ ๊ณต ์ฌ๋ถ ๊ณ ๋ ค