Path Claim Plan 46 KO - teamswyg/laya-tools GitHub Wiki

์‹คํ—˜ 46 ๊ณ„ํš: ๊ฒ€์ƒ‰์„ ๋„์šธ ์ž‘์€ ์ฃผ์žฅ ๋ชจ๋ธ

๊ฐ€์ค‘์น˜ ํ•™์Šต์€ ์•„์ง ์‹œ์ž‘ํ•˜์ง€ ์•Š์•˜๋‹ค. ํŒŒ์ผ ๊ฒ€์ƒ‰ ๋ณด์กฐ๊ฐ€ ๋„์›€์ด ๋  ๋งŒํ•œ ์ž…๋ ฅ์„ ์ž‘์€ ์ˆซ์ž ์ ์ˆ˜๋กœ ์•Œ๋ ค์ฃผ๋Š” ์ฒซ FP32 ๋ชจ๋ธ์˜ ๊ณ„ํš์„ ์ƒˆ ๋น„์šฉ ์ž๋ฃŒ๋ฅผ ๋ณด๊ธฐ ์ „์— ๊ณ ์ •ํ–ˆ๋‹ค. ์•ž์œผ๋กœ 10๊ฐœ ํ›„๋ณด๋ฅผ ๋น„๊ตํ•  ๊ณ„ํš์ด๋ฉฐ, ์ด๊ฒƒ์€ ๋ฌธ์ œ ์ˆ˜๊ฐ€ ์•„๋‹ˆ๋‹ค.

24๊ฐœ์™€ 2,400๊ฐœ๋Š” ๋ฌด์—‡์„ ์„ธ๋‚˜

์ดˆ๊ธฐ ๋‚œ์ด๋„ ํ‰๊ฐ€๋Š” ์‹ค์ œ ๋ฌธ์ œ 24๊ฐœ์ธ ์ž‘์€ ์˜ˆ๋น„ ์‹œํ—˜์ด๋‹ค. ์ด ๊ฒฐ๊ณผ๋กœ ์ผ๋ฐ˜ํ™”๋‚˜ ์šด์˜ ์ ํ•ฉ์„ฑ์„ ํŒ๋‹จํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ดํ›„ ๊ฒ€์ƒ‰ ์‹คํ—˜์˜ 24๊ฐœ ๋ชจ๋ธ ์„ค์ •๊ณผ ์‹ค์ œ ์งˆ๋ฌธ 2,948๊ฐœ๋„ ๊ตฌ๋ถ„ํ•œ๋‹ค. ์ดˆ๊ธฐ๊ฐ’ยทํ‘œํ˜„ ๋ฐฉ์‹ยท์„ ํƒ์ง€ ์ˆœ์„œ๋ฅผ ๋ฐ”๊พธ์–ด ๊ฐ™์€ ์งˆ๋ฌธ์„ ๋ฐ˜๋ณตํ•ด๋„ ์ƒˆ๋กœ์šด ๋…๋ฆฝ ๋ฌธ์ œ๋กœ ์„ธ์ง€ ์•Š๋Š”๋‹ค.

๊ตฌ๋ถ„ ๋‹ค์Œ ์‹คํ—˜ ๊ธฐ์ค€ ์šฉ๋„
ํ•™์Šต ์ž๋ฃŒ ์กฐ๊ฑด์„ ํ†ต๊ณผํ•œ ์ตœ์†Œ 2,400๊ฐœ ๊ณ„์ˆ˜๋ฅผ ๋ฐฐ์›€
๊ฐœ๋ฐœ ๊ฒ€์ฆ ์ž๋ฃŒ ์กฐ๊ฑด์„ ํ†ต๊ณผํ•œ ์ตœ์†Œ 2,400๊ฐœ epochยทํ˜ธ์ถœ ํŽ˜๋„ํ‹ฐยท์ž„๊ณ„๊ฐ’ ๋น„๊ต
์ตœ์ข… ํ‰๊ฐ€ ์ž๋ฃŒ ๋ณดํ˜ธ๋œ 2,402๊ฐœ, ํ™•๋ณดยท์ถœ์ฒ˜ ๊ฒ€ํ†  ๋ณ„๋„ ๋ชจ๋ธ๊ณผ ์‹คํ–‰ ์กฐ๊ฑด์„ ๊ณ ์ •ํ•œ ๋’ค ํ™•์ธ
๋ชจ๋ธ ์„ค์ • ํŽ˜๋„ํ‹ฐ 5๊ฐœ ร— ์ดˆ๊ธฐ๊ฐ’ 2๊ฐœ = 10๊ฐœ ๊ฐ™์€ ์ž๋ฃŒ์—์„œ ๋น„๊ตํ•  ํ›„๋ณด ์ˆ˜

2,400๊ฐœ๋Š” ์™„๋ฃŒ ์„ ์–ธ์„ ์œ„ํ•œ ์ถฉ๋ถ„์กฐ๊ฑด์ด ์•„๋‹ˆ๋ผ ๋น„๊ต๋ฅผ ์‹œ์ž‘ํ•˜๊ธฐ ์œ„ํ•œ ํ•˜ํ•œ์ด๋‹ค. ๊ธฐ์กด ๊ณ ์ • ๋ถ„ํ• ์˜ ์ค‘๋ณต ์—ฐ๊ฒฐ ๊ทธ๋ฃน๊ณผ ์ €์žฅ์†Œ ๊ฒฝ๊ณ„๋ฅผ ์œ ์ง€ํ•œ๋‹ค. ๋ฌธ์žฅยท์‹๋ณ„์ž ์ค‘๋ณต ์ œ๊ฑฐ๊ฐ€ ์˜๋ฏธ์  ๋…๋ฆฝ์„ฑ์ด๋‚˜ ์‚ฌ์ „ ํ•™์Šต ์˜ค์—ผ ๋ถ€์žฌ๊นŒ์ง€ ์ž…์ฆํ•˜์ง€๋Š” ์•Š๋Š”๋‹ค. ์ด๋“ยท์†ํ•ดยท๋™๋ฅ ์˜ ๊ฐœ์ˆ˜, ์ €์žฅ์†Œ๋ณ„ ๊ฒฐ๊ณผ, ๋“œ๋ฌธ ์‹คํŒจ๋„ ๋”ฐ๋กœ ๋ณด๊ณ ํ•˜๋ฉฐ ๋ถ€์กฑํ•œ ํ•˜์œ„ ์ง‘ํ•ฉ์€ ์ฆ๊ฑฐ ๋ถ€์กฑ์œผ๋กœ ๋‚จ๊ธด๋‹ค.

ํฌ๊ธฐ ์ฐจ์ด๋ฅผ ์„ค๋ช…ํ•˜๋Š” ๊ฐ€์ƒ ์˜ˆ์‹œ: ๊ฐ™์€ ๋ถ„ํฌ์˜ ๋…๋ฆฝ ์ดํ•ญ ์‹œํ—˜์—์„œ ์‹คํŒจ๊ฐ€ 0๊ฐœ์—ฌ๋„ ๋‹จ์ธก 95% ์‹คํŒจ์œจ ์ƒํ•œ์€ 1โˆ’0.05^(1/n)์ด๋‹ค. 24๊ฐœ๋ฉด ์•ฝ 11.73%, 2,400๊ฐœ๋ฉด ์•ฝ **0.125%**๋‹ค. ์‹ค์ œ ์‹คํ—˜ ๊ฒฐ๊ณผ๋‚˜ ํ˜„์žฌ ์ž๋ฃŒ์˜ ๋ณด์žฅ ์ˆ˜์น˜๊ฐ€ ์•„๋‹ˆ๋‹ค. ๋ฐ˜๋ณต ๊ด€์ฐฐยท์ƒ๊ด€๋œ ์ž‘์—…ยท๋ถ„ํฌ ์ด๋™์—๋Š” ์ด ๋‹จ์ˆœ ๊ณ„์‚ฐ์„ ๊ทธ๋Œ€๋กœ ์ ์šฉํ•  ์ˆ˜ ์—†๋‹ค. ๊ณ„์‚ฐ ๊ทผ๊ฑฐ๋Š” NIST์˜ ์ •ํ™• ์ดํ•ญ ์‹ ๋ขฐํ•œ๊ณ„๋‹ค.

์ž…๋ ฅ์€ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰์—์„œ ๊ณ„์‚ฐํ•œ ๊ณ ์ • 16๊ฐœ ์ˆซ์ž๋‹ค. ์งˆ๋ฌธ ์›๋ฌธยท์ €์žฅ์†Œ ์ด๋ฆ„ยทํŒŒ์ผ ๊ฒฝ๋กœยท์ •๋‹ต ์ˆœ์œ„๋Š” ๋ชจ๋ธ ์ž…๋ ฅ์— ๋„ฃ์ง€ ์•Š๋Š”๋‹ค. ์ถœ๋ ฅ์€ ๋ณด์กฐ ๊ฒ€์ƒ‰์„ ์‹œ๋„ํ•  ๊ฐ€์น˜์— ๊ด€ํ•œ ์ˆœ์œ„ ์ ์ˆ˜๋‹ค. ๋น„์šฉ ๊ฐ€์ค‘ ํ•™์Šต์˜ sigmoid ๊ฐ’์„ ์‹ค์ œ ์„ฑ๊ณต ํ™•๋ฅ ๋กœ ์„ค๋ช…ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์‹ค์ œ ์‹คํ–‰ ์„ ํƒ๊ณผ ์‹คํŒจ ์‹œ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰ ์œ ์ง€ ๊ธฐ๋Šฅ์€ ๋ณ„๋„ ์‹คํ–‰ ๊ฒฝ๋กœ๊ฐ€ ๋‹ด๋‹นํ•œ๋‹ค.

์–ธ์ œ ํ•™์Šตํ•˜๋‚˜

ํ•™์Šต๊ณผ ๊ฒ€์ฆ์—์„œ ๊ฐ๊ฐ ์ถœ์ฒ˜ ์กฐ๊ฑด๊ณผ ๋น„์šฉ ๊ฒ€์‚ฌ๋ฅผ ํ†ต๊ณผํ•œ ์ž‘์—… ์ตœ์†Œ 2,400๊ฐœ, ๊ฒ€์ฆ ์ €์žฅ์†Œ 5๊ฐœ๋งˆ๋‹ค ์ตœ์†Œ 100๊ฐœ๊ฐ€ ํ•„์š”ํ•˜๋‹ค. ์ „์ฒด ํ•™์Šต 7,335 / ๊ฒ€์ฆ 5,686๊ฐœ ๋ถ„๋ชจ๋ฅผ ์œ ์ง€ํ•˜๊ณ  ๋ฏธ์ˆ˜์ง‘ยท์ •๋‹ต ์˜ค๋ฅ˜ยท์กฐ๊ฑด ๋ณด๋ฅ˜๋ฅผ ๋ถ€์ • ์ •๋‹ต์œผ๋กœ ๋ฐ”๊พธ์ง€ ์•Š๋Š”๋‹ค. ์ตœ์ข… ํ‰๊ฐ€ 2,402๊ฐœ๋Š” ๋ชจ๋ธยท์ž„๊ณ„๊ฐ’์ด ๊ณ ์ •๋œ ๋’ค ๋ณ„๋„๋กœ ํ™•์ธํ•œ๋‹ค.

์‹คํ—˜ 45์˜ ์ค€๋น„ ๊ฒ€์‚ฌ์—์„œ ์กฐ๊ฑด๋ถ€ ์ถœ์ฒ˜ ํ›„๋ณด์™€ ์„ฑ๊ณตํ•œ ๋น„์šฉ ์ž๋ฃŒ๋ฅผ ์—ฐ๊ฒฐํ•œ ์ˆ˜๋Š” ํ•™์Šต 3,048๊ฐœ, ๊ฒ€์ฆ 107๊ฐœ๋‹ค. ํ•™์Šต ์ˆ˜๋งŒ ๋ณด๊ณ  ์‹คํ–‰ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ด๋Š” ์ข์€ ๋กœ์ปฌ ์ˆซ์ž ์‹คํ—˜์˜ ์šด์˜ ํ›„๋ณด์ด๋ฉฐ, ์—ญ์‚ฌ์  ์ด์Šˆ ๊ถŒ๋ฆฌ ์ „์ฒด๋‚˜ ๊ณต๊ฐœ ๋ชจ๋ธ ๋ฐฐํฌ๋ฅผ ์Šน์ธํ•œ ์ˆ˜๊ฐ€ ์•„๋‹ˆ๋‹ค.

ํ•™์Šต ๋ฐฉํ–ฅ๊ณผ ํ›„๋ณด ์ˆ˜

5๊ฐœ ํ˜ธ์ถœ ํŽ˜๋„ํ‹ฐ {0, 0.25, 1, 4, 16}์™€ ์ดˆ๊ธฐ๊ฐ’ ๋‘ ๊ฐœ {1729, 2718}๋กœ 10๊ฐœ FP32 ํ›„๋ณด๋ฅผ ๋งŒ๋“ ๋‹ค. ํŠน์ง•๊ณผ ํ•™์Šต๋ฅ ยท์ •๊ทœํ™”ยท100epochยทbatch64๋Š” ๊ณ ์ •ํ•œ๋‹ค. ๊ฒ€์ฆ ์†์‹ค์ด ๊ฐ€์žฅ ๋‚ฎ์€ epoch๋ฅผ ์„ ํƒํ•˜๊ณ , ๊ฐ™์€ ๊ฒฝ์šฐ ๋จผ์ € ๋‚˜์˜จ epoch๋ฅผ ์“ด๋‹ค. ์ข‹์€ ์ดˆ๊ธฐ๊ฐ’๋งŒ ๊ณจ๋ผ ๋ณด๊ณ ํ•˜์ง€ ์•Š๋Š”๋‹ค.

์ •๋‹ต์€ ๊ธฐ๋ณธ ํŽ˜์ด์ง€โˆ’๋ณด์กฐ ํŽ˜์ด์ง€โˆ’ํŽ˜๋„ํ‹ฐ > 0์ด๊ณ , ๊ฐ€์ค‘์น˜๋Š” ๊ทธ ์ฐจ์ด์˜ ์ ˆ๋Œ“๊ฐ’์ด๋‹ค. ํŽ˜๋„ํ‹ฐ๋Š” ํŽ˜์ด์ง€ ๋‹จ์œ„์˜ ์‹คํ—˜๊ฐ’์ด๋ฉฐ ๋ˆ์ด๋‚˜ ํ† ํฐ ๊ฐ€๊ฒฉ์ด ์•„๋‹ˆ๋‹ค. ํ›„๋ณด 100,000๊ฐœยทํŽ˜์ด์ง€20๊ฐœ ํ•œ๋„์— ๋งž์ถฐ ๊ฐ€์ค‘์น˜๋ฅผ ๊ณ ์ • ์ƒ์ˆ˜ 5,016์œผ๋กœ ๋‚˜๋ˆˆ๋‹ค. ๋ชจ๋“  ํ–‰์— ๊ฐ™์€ ์ƒ์ˆ˜๋ฅผ ์“ฐ๋ฏ€๋กœ ์ •๊ทœํ™”๋œ ๊ฐ€์ค‘ ์†์‹ค๊ณผ ์—…๋ฐ์ดํŠธ์˜ ์˜๋ฏธ๊ฐ€ ์œ ์ง€๋œ๋‹ค. ํฐ ์‚ฌ๋ก€๋ฅผ ๋ณด๊ณ  ์ž„์˜๋กœ ์ž˜๋ผ๋‚ด๋Š” ๋ฐฉ์‹์€ ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค.

๊ฒ€์ฆ์—์„œ ์„ ํƒ์„ ๋ˆ ๊ธฐ์ค€์„ ๋„ ํฌํ•จํ•ด ํŽ˜์ด์ง€ ๋น„์šฉ์ด ๊ฐ€์žฅ ๋‚ฎ์€ ์ž„๊ณ„๊ฐ’์„ ๊ณ ๋ฅธ๋‹ค. ๋ณด์กฐ ํ˜ธ์ถœ์€ ์ตœ๋Œ€ 90%, ๊ฐ™์€ ์ ์ˆ˜์˜ ๋ฌถ์Œ์€ ์ชผ๊ฐœ์ง€ ์•Š๋Š”๋‹ค. ๋น„์šฉ ๋™๋ฅ ์—๋Š” ํ˜ธ์ถœ ์ˆ˜, ํŽ˜๋„ํ‹ฐ, ์ž„๊ณ„๊ฐ’, epoch์˜ ๊ณ ์ • ์ˆœ์„œ๋ฅผ ์ ์šฉํ•œ๋‹ค. ๊ธฐ๋ณธ ๊ฒ€์ƒ‰, ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰, ๊ฐ™์€ ํ˜ธ์ถœ ํ•œ๋„์˜ ๊ฐ„๊ฒฉ ํœด๋ฆฌ์Šคํ‹ฑ๋„ ํ•จ๊ป˜ ๋น„๊ตํ•œ๋‹ค.

์–ด๋–ค ๊ฒฐ๊ณผ๊ฐ€ ํ•„์š”ํ•œ๊ฐ€

๋‘ ์ดˆ๊ธฐ๊ฐ’ ๋ชจ๋‘ ๊ฒ€์ฆ ํŽ˜์ด์ง€๋ฅผ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰๋ณด๋‹ค ์ตœ์†Œ 5%, ํ•ญ์ƒ ๋ณด์กฐ ๊ฒ€์ƒ‰๋ณด๋‹ค ์ตœ์†Œ 1% ์ค„์—ฌ์•ผ ํ•œ๋‹ค. ์ „์ฒดยท์ €์žฅ์†Œ ๋™์ผ ๊ฐ€์ค‘์˜ Hit10์€ ๊ธฐ๋ณธ ๊ฒ€์ƒ‰๋ณด๋‹ค ๋‚˜๋น ์ง€๋ฉด ์•ˆ ๋˜๊ณ , ์–ด๋А ๊ฒ€์ฆ ์ €์žฅ์†Œ๋„ ์ด ํŽ˜์ด์ง€๊ฐ€ 5% ๋„˜๊ฒŒ ์•…ํ™”๋˜๋ฉด ์•ˆ ๋œ๋‹ค. ์‹คํŒจํ•˜๋ฉด ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋‚จ๊ธฐ๋ฉฐ ๊ฐ™์€ ์ž๋ฃŒ์—์„œ ์กฐ๊ฑด์„ ๊ณ„์† ๋ฐ”๊พธ์ง€ ์•Š๋Š”๋‹ค. ์ด๊ฒƒ์€ ๋‹ค์Œ ์‹คํ—˜์œผ๋กœ ๋„˜์–ด๊ฐ€๊ธฐ ์œ„ํ•œ ํŒŒ์ผ๋Ÿฟ ๊ธฐ์ค€์ด๋‹ค.

๊ฐ€์ค‘์น˜๋Š” 16๊ฐœ FP32 ์ˆซ์ž์ด๋ฉฐ, ์ค€๋น„ยทํ•™์Šต ์ž๋ฃŒ๋Š” Go์˜ ์—ฐ์† ๋ฐฐ์—ด๋กœ ์†Œ์œ ํ•œ๋‹ค. ์‹ค์ œ ๊ณ„์‚ฐ์—์„œ float64 ํŠน์ง•์ด๋‚˜ ๋ˆ„์ ์„ ์“ฐ๋Š” ๋ถ€๋ถ„๊ณผ ์ €์žฅ ์ •๋ฐ€๋„๋ฅผ ๊ตฌ๋ถ„ํ•œ๋‹ค. ๋‹จ์ผ ํ—ค๋“œ ์ €์žฅ ํฌ๊ธฐ์™€ ์ „์ฒด ํŠน์ง•ยท๊ฒ€์ƒ‰ ๋น„์šฉ๋„ ๊ตฌ๋ถ„ํ•œ๋‹ค. ์ „์ฒด runner์˜ ๋…๋ฆฝ ์ธก์ • ๋ชฉํ‘œ๋Š” RSS 256MiB ์ดํ•˜์ด๋ฉฐ, ์ดˆ๊ณผ๋ฅผ ์ˆจ๊ธฐ๊ฑฐ๋‚˜ ํ–‰์„ ๋นผ์„œ ๋งž์ถ”์ง€ ์•Š๋Š”๋‹ค.

๊ตฌํ˜„ ์ค€๋น„์™€ ๋‚จ์€ ์ผ

๊ธฐ์กด Go ํ•™์Šต๊ธฐ๋Š” 16์ฐจ์›์— ์žฌ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ์˜ˆ์ „ ์ €์žฅ์†Œ 3๊ฐœ์šฉ ์‹คํ–‰ ์ฝ”๋“œ๋Š” ์ƒˆ ๋ถ„ํ• ๊ณผ ๋‹ค๋ฅด๋‹ค. internal/pathclaim์€ ์ƒˆ ์ž๋ฃŒยท๊ณ ์ • ์กฐ๊ฑดยท๋ชจ๋ธ ํ˜•์‹์„ ์—ฐ๊ฒฐํ•˜๊ธฐ ์œ„ํ•œ ์ค€๋น„ ์ฝ”๋“œ๋‹ค. ํ•ฉ์„ฑ ํ…Œ์ŠคํŠธ์—์„œ ํ•™์Šต์ด ์‹คํ–‰๋˜์–ด๋„ ์‹ค์ œ ์ฝ”ํผ์Šค์˜ ํ•™์Šต ์™„๋ฃŒ๋ฅผ ๋œปํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ „์ฒด 10๊ฐœ ํ›„๋ณด ์‹คํ–‰, ๋ชจ๋“  epoch ๊ธฐ๋ก, ์‹ค์ œ ์ž…๋ ฅยท์ถœ์ฒ˜ยทrunner ์ง€๋ฌธ ๋ด‰์ธ, ์ž์› ์ธก์ •๊ณผ ๊ณต๊ฐœ ๊ณ ์ง€๋Š” ๋‹ค์Œ runner์—์„œ ํ™•์ธํ•ด์•ผ ํ•œ๋‹ค.

์œ ์šฉํ•œ FP32 ์‹ ํ˜ธ๊ฐ€ ์ƒ๊ธฐ๋ฉด ๊ฐ™์€ ์ž…๋ ฅยท์˜ˆ์‚ฐ์œผ๋กœ FP32/INT8/3์ง„ PTQ/3์ง„ ํ•™์Šต์„ ๋ณ„๋„ ์‹คํ—˜ํ•œ๋‹ค. 16๊ฐœ ๊ฐ€์ค‘์น˜์˜ ์••์ถ•๋งŒ์œผ๋กœ ์ „์ฒด ์‹คํ–‰์ด ๋นจ๋ผ์ง„๋‹ค๊ณ  ๊ฐ€์ •ํ•˜์ง€ ์•Š๋Š”๋‹ค. ํŒŒ์ผ ๊ฒ€์ƒ‰ ์ดํ›„์—๋„ ์‹ค์ œ ์—์ด์ „ํŠธ ์™„๋ฃŒ์œจยท์ด ์‚ฌ์šฉ๋Ÿ‰, ๋ชจ๋ธ ์ƒํ–ฅยทํ•˜ํ–ฅ, ์˜์กด์„ฑ์„ ๊ณ ๋ คํ•œ ๋ถ„ํ• , ๋ณ„๋„ ์ €์žฅ์†Œ ์„ ํƒ ๊ณจ๋“ ์…‹์ด ํ•„์š”ํ•˜๋‹ค. ํŒŒ์ผ ํŽ˜์ด์ง€ ํ•œ ๊ฐ€์ง€๋กœ ์ „์ฒด ํ”„๋กœ์ ํŠธ์˜ ์„ฑ๊ณต์„ ๋Œ€์‹ ํ•˜์ง€ ์•Š๋Š”๋‹ค.