Path Claim Plan 46 KO - teamswyg/laya-tools GitHub Wiki
์คํ 46 ๊ณํ: ๊ฒ์์ ๋์ธ ์์ ์ฃผ์ฅ ๋ชจ๋ธ
๊ฐ์ค์น ํ์ต์ ์์ง ์์ํ์ง ์์๋ค. ํ์ผ ๊ฒ์ ๋ณด์กฐ๊ฐ ๋์์ด ๋ ๋งํ ์ ๋ ฅ์ ์์ ์ซ์ ์ ์๋ก ์๋ ค์ฃผ๋ ์ฒซ FP32 ๋ชจ๋ธ์ ๊ณํ์ ์ ๋น์ฉ ์๋ฃ๋ฅผ ๋ณด๊ธฐ ์ ์ ๊ณ ์ ํ๋ค. ์์ผ๋ก 10๊ฐ ํ๋ณด๋ฅผ ๋น๊ตํ ๊ณํ์ด๋ฉฐ, ์ด๊ฒ์ ๋ฌธ์ ์๊ฐ ์๋๋ค.
24๊ฐ์ 2,400๊ฐ๋ ๋ฌด์์ ์ธ๋
์ด๊ธฐ ๋์ด๋ ํ๊ฐ๋ ์ค์ ๋ฌธ์ 24๊ฐ์ธ ์์ ์๋น ์ํ์ด๋ค. ์ด ๊ฒฐ๊ณผ๋ก ์ผ๋ฐํ๋ ์ด์ ์ ํฉ์ฑ์ ํ๋จํ์ง ์๋๋ค. ์ดํ ๊ฒ์ ์คํ์ 24๊ฐ ๋ชจ๋ธ ์ค์ ๊ณผ ์ค์ ์ง๋ฌธ 2,948๊ฐ๋ ๊ตฌ๋ถํ๋ค. ์ด๊ธฐ๊ฐยทํํ ๋ฐฉ์ยท์ ํ์ง ์์๋ฅผ ๋ฐ๊พธ์ด ๊ฐ์ ์ง๋ฌธ์ ๋ฐ๋ณตํด๋ ์๋ก์ด ๋ ๋ฆฝ ๋ฌธ์ ๋ก ์ธ์ง ์๋๋ค.
| ๊ตฌ๋ถ | ๋ค์ ์คํ ๊ธฐ์ค | ์ฉ๋ |
|---|---|---|
| ํ์ต ์๋ฃ | ์กฐ๊ฑด์ ํต๊ณผํ ์ต์ 2,400๊ฐ | ๊ณ์๋ฅผ ๋ฐฐ์ |
| ๊ฐ๋ฐ ๊ฒ์ฆ ์๋ฃ | ์กฐ๊ฑด์ ํต๊ณผํ ์ต์ 2,400๊ฐ | epochยทํธ์ถ ํ๋ํฐยท์๊ณ๊ฐ ๋น๊ต |
| ์ต์ข ํ๊ฐ ์๋ฃ | ๋ณดํธ๋ 2,402๊ฐ, ํ๋ณดยท์ถ์ฒ ๊ฒํ ๋ณ๋ | ๋ชจ๋ธ๊ณผ ์คํ ์กฐ๊ฑด์ ๊ณ ์ ํ ๋ค ํ์ธ |
| ๋ชจ๋ธ ์ค์ | ํ๋ํฐ 5๊ฐ ร ์ด๊ธฐ๊ฐ 2๊ฐ = 10๊ฐ | ๊ฐ์ ์๋ฃ์์ ๋น๊ตํ ํ๋ณด ์ |
2,400๊ฐ๋ ์๋ฃ ์ ์ธ์ ์ํ ์ถฉ๋ถ์กฐ๊ฑด์ด ์๋๋ผ ๋น๊ต๋ฅผ ์์ํ๊ธฐ ์ํ ํํ์ด๋ค. ๊ธฐ์กด ๊ณ ์ ๋ถํ ์ ์ค๋ณต ์ฐ๊ฒฐ ๊ทธ๋ฃน๊ณผ ์ ์ฅ์ ๊ฒฝ๊ณ๋ฅผ ์ ์งํ๋ค. ๋ฌธ์ฅยท์๋ณ์ ์ค๋ณต ์ ๊ฑฐ๊ฐ ์๋ฏธ์ ๋ ๋ฆฝ์ฑ์ด๋ ์ฌ์ ํ์ต ์ค์ผ ๋ถ์ฌ๊น์ง ์ ์ฆํ์ง๋ ์๋๋ค. ์ด๋ยท์ํดยท๋๋ฅ ์ ๊ฐ์, ์ ์ฅ์๋ณ ๊ฒฐ๊ณผ, ๋๋ฌธ ์คํจ๋ ๋ฐ๋ก ๋ณด๊ณ ํ๋ฉฐ ๋ถ์กฑํ ํ์ ์งํฉ์ ์ฆ๊ฑฐ ๋ถ์กฑ์ผ๋ก ๋จ๊ธด๋ค.
ํฌ๊ธฐ ์ฐจ์ด๋ฅผ ์ค๋ช
ํ๋ ๊ฐ์ ์์: ๊ฐ์ ๋ถํฌ์ ๋
๋ฆฝ ์ดํญ ์ํ์์ ์คํจ๊ฐ 0๊ฐ์ฌ๋ ๋จ์ธก 95% ์คํจ์จ ์ํ์ 1โ0.05^(1/n)์ด๋ค. 24๊ฐ๋ฉด ์ฝ 11.73%, 2,400๊ฐ๋ฉด ์ฝ **0.125%**๋ค. ์ค์ ์คํ ๊ฒฐ๊ณผ๋ ํ์ฌ ์๋ฃ์ ๋ณด์ฅ ์์น๊ฐ ์๋๋ค. ๋ฐ๋ณต ๊ด์ฐฐยท์๊ด๋ ์์
ยท๋ถํฌ ์ด๋์๋ ์ด ๋จ์ ๊ณ์ฐ์ ๊ทธ๋๋ก ์ ์ฉํ ์ ์๋ค. ๊ณ์ฐ ๊ทผ๊ฑฐ๋ NIST์ ์ ํ ์ดํญ ์ ๋ขฐํ๊ณ๋ค.
์ ๋ ฅ์ ๊ธฐ๋ณธ ๊ฒ์์์ ๊ณ์ฐํ ๊ณ ์ 16๊ฐ ์ซ์๋ค. ์ง๋ฌธ ์๋ฌธยท์ ์ฅ์ ์ด๋ฆยทํ์ผ ๊ฒฝ๋กยท์ ๋ต ์์๋ ๋ชจ๋ธ ์ ๋ ฅ์ ๋ฃ์ง ์๋๋ค. ์ถ๋ ฅ์ ๋ณด์กฐ ๊ฒ์์ ์๋ํ ๊ฐ์น์ ๊ดํ ์์ ์ ์๋ค. ๋น์ฉ ๊ฐ์ค ํ์ต์ sigmoid ๊ฐ์ ์ค์ ์ฑ๊ณต ํ๋ฅ ๋ก ์ค๋ช ํ์ง ์๋๋ค. ์ค์ ์คํ ์ ํ๊ณผ ์คํจ ์ ๊ธฐ๋ณธ ๊ฒ์ ์ ์ง ๊ธฐ๋ฅ์ ๋ณ๋ ์คํ ๊ฒฝ๋ก๊ฐ ๋ด๋นํ๋ค.
์ธ์ ํ์ตํ๋
ํ์ต๊ณผ ๊ฒ์ฆ์์ ๊ฐ๊ฐ ์ถ์ฒ ์กฐ๊ฑด๊ณผ ๋น์ฉ ๊ฒ์ฌ๋ฅผ ํต๊ณผํ ์์ ์ต์ 2,400๊ฐ, ๊ฒ์ฆ ์ ์ฅ์ 5๊ฐ๋ง๋ค ์ต์ 100๊ฐ๊ฐ ํ์ํ๋ค. ์ ์ฒด ํ์ต 7,335 / ๊ฒ์ฆ 5,686๊ฐ ๋ถ๋ชจ๋ฅผ ์ ์งํ๊ณ ๋ฏธ์์งยท์ ๋ต ์ค๋ฅยท์กฐ๊ฑด ๋ณด๋ฅ๋ฅผ ๋ถ์ ์ ๋ต์ผ๋ก ๋ฐ๊พธ์ง ์๋๋ค. ์ต์ข ํ๊ฐ 2,402๊ฐ๋ ๋ชจ๋ธยท์๊ณ๊ฐ์ด ๊ณ ์ ๋ ๋ค ๋ณ๋๋ก ํ์ธํ๋ค.
์คํ 45์ ์ค๋น ๊ฒ์ฌ์์ ์กฐ๊ฑด๋ถ ์ถ์ฒ ํ๋ณด์ ์ฑ๊ณตํ ๋น์ฉ ์๋ฃ๋ฅผ ์ฐ๊ฒฐํ ์๋ ํ์ต 3,048๊ฐ, ๊ฒ์ฆ 107๊ฐ๋ค. ํ์ต ์๋ง ๋ณด๊ณ ์คํํ์ง ์๋๋ค. ์ด๋ ์ข์ ๋ก์ปฌ ์ซ์ ์คํ์ ์ด์ ํ๋ณด์ด๋ฉฐ, ์ญ์ฌ์ ์ด์ ๊ถ๋ฆฌ ์ ์ฒด๋ ๊ณต๊ฐ ๋ชจ๋ธ ๋ฐฐํฌ๋ฅผ ์น์ธํ ์๊ฐ ์๋๋ค.
ํ์ต ๋ฐฉํฅ๊ณผ ํ๋ณด ์
5๊ฐ ํธ์ถ ํ๋ํฐ {0, 0.25, 1, 4, 16}์ ์ด๊ธฐ๊ฐ ๋ ๊ฐ {1729, 2718}๋ก 10๊ฐ FP32 ํ๋ณด๋ฅผ ๋ง๋ ๋ค. ํน์ง๊ณผ ํ์ต๋ฅ ยท์ ๊ทํยท100epochยทbatch64๋ ๊ณ ์ ํ๋ค. ๊ฒ์ฆ ์์ค์ด ๊ฐ์ฅ ๋ฎ์ epoch๋ฅผ ์ ํํ๊ณ , ๊ฐ์ ๊ฒฝ์ฐ ๋จผ์ ๋์จ epoch๋ฅผ ์ด๋ค. ์ข์ ์ด๊ธฐ๊ฐ๋ง ๊ณจ๋ผ ๋ณด๊ณ ํ์ง ์๋๋ค.
์ ๋ต์ ๊ธฐ๋ณธ ํ์ด์งโ๋ณด์กฐ ํ์ด์งโํ๋ํฐ > 0์ด๊ณ , ๊ฐ์ค์น๋ ๊ทธ ์ฐจ์ด์ ์ ๋๊ฐ์ด๋ค. ํ๋ํฐ๋ ํ์ด์ง ๋จ์์ ์คํ๊ฐ์ด๋ฉฐ ๋์ด๋ ํ ํฐ ๊ฐ๊ฒฉ์ด ์๋๋ค. ํ๋ณด 100,000๊ฐยทํ์ด์ง20๊ฐ ํ๋์ ๋ง์ถฐ ๊ฐ์ค์น๋ฅผ ๊ณ ์ ์์ 5,016์ผ๋ก ๋๋๋ค. ๋ชจ๋ ํ์ ๊ฐ์ ์์๋ฅผ ์ฐ๋ฏ๋ก ์ ๊ทํ๋ ๊ฐ์ค ์์ค๊ณผ ์
๋ฐ์ดํธ์ ์๋ฏธ๊ฐ ์ ์ง๋๋ค. ํฐ ์ฌ๋ก๋ฅผ ๋ณด๊ณ ์์๋ก ์๋ผ๋ด๋ ๋ฐฉ์์ ์ฌ์ฉํ์ง ์๋๋ค.
๊ฒ์ฆ์์ ์ ํ์ ๋ ๊ธฐ์ค์ ๋ ํฌํจํด ํ์ด์ง ๋น์ฉ์ด ๊ฐ์ฅ ๋ฎ์ ์๊ณ๊ฐ์ ๊ณ ๋ฅธ๋ค. ๋ณด์กฐ ํธ์ถ์ ์ต๋ 90%, ๊ฐ์ ์ ์์ ๋ฌถ์์ ์ชผ๊ฐ์ง ์๋๋ค. ๋น์ฉ ๋๋ฅ ์๋ ํธ์ถ ์, ํ๋ํฐ, ์๊ณ๊ฐ, epoch์ ๊ณ ์ ์์๋ฅผ ์ ์ฉํ๋ค. ๊ธฐ๋ณธ ๊ฒ์, ํญ์ ๋ณด์กฐ ๊ฒ์, ๊ฐ์ ํธ์ถ ํ๋์ ๊ฐ๊ฒฉ ํด๋ฆฌ์คํฑ๋ ํจ๊ป ๋น๊ตํ๋ค.
์ด๋ค ๊ฒฐ๊ณผ๊ฐ ํ์ํ๊ฐ
๋ ์ด๊ธฐ๊ฐ ๋ชจ๋ ๊ฒ์ฆ ํ์ด์ง๋ฅผ ๊ธฐ๋ณธ ๊ฒ์๋ณด๋ค ์ต์ 5%, ํญ์ ๋ณด์กฐ ๊ฒ์๋ณด๋ค ์ต์ 1% ์ค์ฌ์ผ ํ๋ค. ์ ์ฒดยท์ ์ฅ์ ๋์ผ ๊ฐ์ค์ Hit10์ ๊ธฐ๋ณธ ๊ฒ์๋ณด๋ค ๋๋น ์ง๋ฉด ์ ๋๊ณ , ์ด๋ ๊ฒ์ฆ ์ ์ฅ์๋ ์ด ํ์ด์ง๊ฐ 5% ๋๊ฒ ์ ํ๋๋ฉด ์ ๋๋ค. ์คํจํ๋ฉด ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋จ๊ธฐ๋ฉฐ ๊ฐ์ ์๋ฃ์์ ์กฐ๊ฑด์ ๊ณ์ ๋ฐ๊พธ์ง ์๋๋ค. ์ด๊ฒ์ ๋ค์ ์คํ์ผ๋ก ๋์ด๊ฐ๊ธฐ ์ํ ํ์ผ๋ฟ ๊ธฐ์ค์ด๋ค.
๊ฐ์ค์น๋ 16๊ฐ FP32 ์ซ์์ด๋ฉฐ, ์ค๋นยทํ์ต ์๋ฃ๋ Go์ ์ฐ์ ๋ฐฐ์ด๋ก ์์ ํ๋ค. ์ค์ ๊ณ์ฐ์์ float64 ํน์ง์ด๋ ๋์ ์ ์ฐ๋ ๋ถ๋ถ๊ณผ ์ ์ฅ ์ ๋ฐ๋๋ฅผ ๊ตฌ๋ถํ๋ค. ๋จ์ผ ํค๋ ์ ์ฅ ํฌ๊ธฐ์ ์ ์ฒด ํน์งยท๊ฒ์ ๋น์ฉ๋ ๊ตฌ๋ถํ๋ค. ์ ์ฒด runner์ ๋ ๋ฆฝ ์ธก์ ๋ชฉํ๋ RSS 256MiB ์ดํ์ด๋ฉฐ, ์ด๊ณผ๋ฅผ ์จ๊ธฐ๊ฑฐ๋ ํ์ ๋นผ์ ๋ง์ถ์ง ์๋๋ค.
๊ตฌํ ์ค๋น์ ๋จ์ ์ผ
๊ธฐ์กด Go ํ์ต๊ธฐ๋ 16์ฐจ์์ ์ฌ์ฌ์ฉํ ์ ์์ง๋ง, ์์ ์ ์ฅ์ 3๊ฐ์ฉ ์คํ ์ฝ๋๋ ์ ๋ถํ ๊ณผ ๋ค๋ฅด๋ค. internal/pathclaim์ ์ ์๋ฃยท๊ณ ์ ์กฐ๊ฑดยท๋ชจ๋ธ ํ์์ ์ฐ๊ฒฐํ๊ธฐ ์ํ ์ค๋น ์ฝ๋๋ค. ํฉ์ฑ ํ
์คํธ์์ ํ์ต์ด ์คํ๋์ด๋ ์ค์ ์ฝํผ์ค์ ํ์ต ์๋ฃ๋ฅผ ๋ปํ์ง ์๋๋ค. ์ ์ฒด 10๊ฐ ํ๋ณด ์คํ, ๋ชจ๋ epoch ๊ธฐ๋ก, ์ค์ ์
๋ ฅยท์ถ์ฒยทrunner ์ง๋ฌธ ๋ด์ธ, ์์ ์ธก์ ๊ณผ ๊ณต๊ฐ ๊ณ ์ง๋ ๋ค์ runner์์ ํ์ธํด์ผ ํ๋ค.
์ ์ฉํ FP32 ์ ํธ๊ฐ ์๊ธฐ๋ฉด ๊ฐ์ ์ ๋ ฅยท์์ฐ์ผ๋ก FP32/INT8/3์ง PTQ/3์ง ํ์ต์ ๋ณ๋ ์คํํ๋ค. 16๊ฐ ๊ฐ์ค์น์ ์์ถ๋ง์ผ๋ก ์ ์ฒด ์คํ์ด ๋นจ๋ผ์ง๋ค๊ณ ๊ฐ์ ํ์ง ์๋๋ค. ํ์ผ ๊ฒ์ ์ดํ์๋ ์ค์ ์์ด์ ํธ ์๋ฃ์จยท์ด ์ฌ์ฉ๋, ๋ชจ๋ธ ์ํฅยทํํฅ, ์์กด์ฑ์ ๊ณ ๋ คํ ๋ถํ , ๋ณ๋ ์ ์ฅ์ ์ ํ ๊ณจ๋ ์ ์ด ํ์ํ๋ค. ํ์ผ ํ์ด์ง ํ ๊ฐ์ง๋ก ์ ์ฒด ํ๋ก์ ํธ์ ์ฑ๊ณต์ ๋์ ํ์ง ์๋๋ค.