Typed Behavior Next 56c KO - teamswyg/laya-tools GitHub Wiki

๋‹ค์Œ ์‹คํ—˜56c: ์ž‘์€ ์†์„ฑ ์ฃผ์žฅ๊ณผ ํ•™์Šต ์ „ ํšจ์šฉ ํ™•์ธ

English ยท 56b ๊ฒฐ๊ณผ ยท ๊ธฐ์กด ํ™•๋ณด ๊ณ„ํš

56b์˜ ์ „์ฒด17ยท๋ผ๋ฒจ16๊ทธ๋ฃน์€ ์ค€๋น„ ํ•˜ํ•œ์„ ๋„˜์—ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋™์ผ ํ•ฉ์„ฑ ์˜์–ด ์ž‘์„ฑ ํ๋ฆ„์ด๊ณ  ์—ญํ• ยท๋ถ„ํ• ยท์ƒˆ ๊ธฐ์ค€์„  ํšจ์šฉ์„ ์•„์ง ๊ณ ์ •ํ•˜์ง€ ์•Š์•˜๋‹ค. ๋‹ค์Œ ๋‹จ๊ณ„์—์„œ๋„ ํ•˜ํ•œ์„ ํ†ต๊ณผํ–ˆ๋‹ค๋Š” ์ด์œ ๋งŒ์œผ๋กœ ํ•™์Šตํ•˜๊ฑฐ๋‚˜ ๊ธฐ์กด ๊ฐ€์ค‘์น˜๋ฅผ ๊ต์ฒดํ•˜์ง€ ์•Š๋Š”๋‹ค.

๊ฐ€์ƒ ์‚ฌ์šฉ์ž๋Š” ์ฝ”๋“œ๋ฅผ ํ™•์ธํ•˜๋Š” ์—์ด์ „ํŠธ๋‹ค. โ€œ์–ด๋А ํ›„๋ณด๊ฐ€ ์˜ค๋ฅ˜ ๋•Œ ์ถœ๋ ฅ์„ ๋น„์šฐ๋Š”๊ฐ€โ€๋ผ๋Š” ์ž‘์€ ์š”๊ตฌ์— ๋Œ€ํ•ด ์‹ผ ๋„๊ตฌ๊ฐ€ ๊ฒ€์‚ฌ ์ˆœ์„œ๋งŒ ์ œ์•ˆํ•œ๋‹ค. ์™ธ๋ถ€์˜ ๋…๋ฆฝ ๊ฒ€์‚ฌ๊ฐ€ ์‹ค์ œ ์ฝ”๋“œ๋ฅผ ํ™•์ธํ•˜๋ฉฐ, ๋ชจ๋“  ํ›„๋ณด์™€ fallback์„ ์œ ์ง€ํ•œ๋‹ค. ์—ฌ๋Ÿฌ ํžŒํŠธ๋ฅผ ๋ฐ˜๋ณต ์‚ฌ์šฉํ•˜๋”๋ผ๋„ ์ ์ˆ˜๋Š” ์ •๋‹ต ํ™•๋ฅ ยท์‹คํ–‰ ์Šน์ธยท์ „์ฒด ํ•จ์ˆ˜์˜ ์ •๋‹ต์ด ์•„๋‹ˆ๋‹ค.

๋‹ค์Œ ๋‘ ๊ฒฝ๋กœ๋ฅผ ๋ณ„๋„๋กœ ์ค€๋น„ํ•œ๋‹ค.

๊ฒฝ๋กœ ๋จผ์ € ๋งŒ๋“ค์–ด์•ผ ํ•  ๊ฒƒ ํ†ต๊ณผ๋กœ ์˜๋ฏธํ•˜์ง€ ์•Š๋Š” ๊ฒƒ
ํ•œ ์†์„ฑ์˜ ์ฃผ์žฅ quote ์•ˆ delimiter ๋ณด์กด, escape๋œ delimiter ๋ณด์กด, ์˜ค๋ฅ˜ ๋•Œ zero output ๋“ฑ ํ•˜๋‚˜์˜ ๋ฒ”์œ„ยท๊ด€์ธก๊ฐ’ยทliteral ์ •๋‹ต. ์ƒˆ schema/๊ณ„ํš/๋ฌธ์žฅ ๊ฒ€ํ†  ๋ถ€๋ถ„ ์†์„ฑ์„ ํ†ต๊ณผํ•œ ์ฝ”๋“œ๊ฐ€ ํ•จ์ˆ˜ ์ „์ฒด ๊ณ„์•ฝ๋„ ์ถฉ์กฑํ•œ๋‹ค๋Š” ์ฃผ์žฅ
ํ•™์Šต ์ „ ์ˆœ์œ„ ํšจ์šฉ ์•Œ๋ ค์ง„ ๋‹ต ์žˆ์Œ/no-answer/unknown์„ ๋ถ„๋ฆฌํ•œ ๊ณ ์ •์ˆœ์„œยทBM25ยท์–ดํœ˜ยท์ข์€ ๊ทœ์น™ยทoracle ๋น„๊ต, ๊ฐ™์€ ๋น„์šฉ ๋ถ„๋ชจยทํ›„๋ณด ๋ณด์กด oracle ์ƒํ•œ์ด ์‹ค์ œ ๋ชจ๋ธ ์ด๋“์ด๋‚˜ LLM ์‚ฌ์šฉ๋Ÿ‰ ๊ฐ์†Œ๋ผ๋Š” ์ฃผ์žฅ

์†์„ฑ๋ณ„๋กœ ๊ฐ™์€ ์›์ฒœ ํ•จ์ˆ˜๊ฐ€ ๋‹ค๋ฅธ ์ •๋‹ต ์ง‘ํ•ฉ์„ ๊ฐ€์งˆ ์ˆ˜ ์žˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ์ดˆ๊ธฐ ๋น„ASCII ์˜ค๋ฅ˜์— ์ถœ๋ ฅ์„ ๋น„์šฐ๋Š” ํ›„๋ณด๊ฐ€ ๋‚˜์ค‘์˜ ๋ฌธ๋ฒ• ์˜ค๋ฅ˜์—์„œ๋Š” ๋ถ€๋ถ„ ์ถœ๋ ฅ์„ ๋‚จ๊ธธ ์ˆ˜ ์žˆ๋‹ค. ์›์ฒœ์˜ full-contract correct/wrong ํ‘œ์‹œ๋ฅผ ๋ถ€๋ถ„ ์†์„ฑ์˜ ๋ผ๋ฒจ๋กœ ์žฌ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š”๋‹ค. ์†์„ฑ๋ณ„ literal ๊ด€์ธก์„ ๋”ฐ๋กœ ์ค€๋น„ํ•˜๊ณ , ์ง€์› ๋ฐ–ยท์„ค๋ช… ๋ถˆ์™„์ „ยท๊ฒ€์‚ฌ ๋ฌธ์ œ๋Š” unknown์œผ๋กœ ๋‘”๋‹ค. 56b์˜ ๋ณด๋ฅ˜๋œ ๊ตฌ๋ถ„์ž4์š”์ฒญ์€ ๋ฐ”๊พธ์ง€ ์•Š๋Š”๋‹ค.

ํ•œ ํ•จ์ˆ˜์˜ ์†์„ฑ์„ ์—ฌ๋Ÿฌ ๊ฐœ ๋งŒ๋“ค๋”๋ผ๋„ ๊ฐ™์€ ๋ถ€๋ชจยท์ฝ”๋“œยท์˜ค๋‹ตยทhelper ์—ฐ๊ฒฐ๋กœ ๋ฌถ๋Š”๋‹ค. ์†์„ฑ ์ˆ˜ยท๋ฐ”๊ฟ” ์“ด ๋ฌธ์žฅยทseedยทํ˜•์ œยทINT8/PTQ ์ž์‹์€ ๋…๋ฆฝ ๊ทธ๋ฃน์„ ๋Š˜๋ฆฌ์ง€ ์•Š๋Š”๋‹ค. ๋” ์ข์€ ์˜๋ฏธ ๋ชจ๋ธ์ด ์‹ค์ œ๋กœ ์œ ๋ฆฌํ•œ์ง€ ํ™•์ธํ•˜๋ ค๋ฉด ๊ณต๊ฐœ ์›์ฒœ์—์„œ ์„œ๋กœ ๋‹ค๋ฅธ ๊ฐœ๋ฐœ ์š”์ฒญ120โ†’240๊ณผ ์–ธ์–ดยท์กฐ๊ฑดยท์ž‘์„ฑ ๋ถ„ํฌ์˜ ๋‹ค์–‘์„ฑ์„ ํ•จ๊ป˜ ํ™•๋ณดํ•ด์•ผ ํ•œ๋‹ค. ๊ถŒ๋ฆฌยท๊ณ ์ • revisionยท๋‹ซํžŒ compile ๋ฒ”์œ„ยท๋…๋ฆฝ ์ •๋‹ต์„ ๋จผ์ € ํ™•์ธํ•˜๋ฉฐ ๊ธฐ์กด ์›์ฒœ120๊ฐœ ์กฐ์‚ฌ snapshot์€ ๋ณด์กดํ•œ๋‹ค.

๊ฐœ์„  ์—ฌ์ง€๊ฐ€ ์ถฉ๋ถ„ํ•œ ์ž๋ฃŒ๊ฐ€ ํ™•๋ณด๋œ ๋’ค ํ•™์Šต/validation/calibration ์—ญํ• ๊ณผ ์ „์ฒด ๊ทธ๋ฃน ๊ด€๊ณ„๋ฅผ ๊ฒฐ๊ณผ ์ „์— ๊ณ ์ •ํ•œ๋‹ค. ๊ธฐ์กด ์ตœ์†Œ15 ๊ธฐ์ค€๊ณผ ์ตœ์†Œ5% ํšจ์šฉ ํ•„์š”์กฐ๊ฑด์„ ๋‚ฎ์ถ”์ง€ ์•Š๋Š”๋‹ค. FP32 ๋ถ€๋ชจ, ๋™์ผ ๋ถ€๋ชจ์˜ INT8/PTQ ์ž์‹, ๊ฐ™์€ ์˜ˆ์‚ฐ์˜ ์‚ผ์ง„ STE ํ˜•์ œ๋Š” ๋ณ„๋„ ๊ด€๊ณ„๋กœ ๊ธฐ๋กํ•œ๋‹ค. ๊ธฐ์กด ์ตœ๋Œ€8 fitsยท16ํŒŒ์ƒ ์‚ฐ์ถœ๋ฌผ ์ œ์•ˆ์€ ์‹ค์ œ ํ•™์Šต ์‹คํ–‰ ๊ณ„ํš์ด ์ค€๋น„๋  ๋•Œ๋งŒ ์ง‘ํ–‰ํ•œ๋‹ค. ์•„์นด์ด๋ธŒ์˜ bit ์ˆ˜์™€ ์ถ”๋ก  ๋•Œ ํŽผ์นœ ๋ฐฐ์—ด์˜ ๋ฉ”๋ชจ๋ฆฌ๋ฅผ ๋”ฐ๋กœ ์ธก์ •ํ•œ๋‹ค.

์ž์› ๊ฒฝ๋กœ๋„ ๋ณ„๋„ ๊ณ„ํš์œผ๋กœ ์ง„ํ–‰ํ•œ๋‹ค. ๋จผ์ € ์บ์‹œ ์—†๋Š” ์ƒ์ฃผ JSONL์—์„œ ๋™์ผ ์š”์ฒญ๊ณผ ์„œ๋กœ ๋‹ค๋ฅธ ๊ณต๊ฐœ ์š”์ฒญ์„ ๋ถ„๋ฆฌํ•˜๊ณ  startupยทwarmupยท์‹ค์ œ ์ฒ˜๋ฆฌยทpipeยทcontroller ๋น„์šฉ๊ณผ ์ „์ฒด ์ž์‹ RSS/CPU๋ฅผ ์ธก์ •ํ•œ๋‹ค. ๊ทธ ๋’ค queue ํ•œ๋„๊ฐ€ ์žˆ๋Š” open-loop๋ฅผ ๊ฒ€ํ† ํ•œ๋‹ค. ์‹ค์ œ ์žฌ์‚ฌ์šฉ ์ด๋“์ด ๊ด€์ธก๋˜๊ธฐ ์ „์—๋Š” ์บ์‹œยทlockยทSIMDยทGPU๋ฅผ ์„ฑ๋Šฅ ๊ฐœ์„ ์œผ๋กœ ์ฃผ์žฅํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ด ๋ฌธ์„œ๋Š” ํ•ด๋‹น ์‹คํ—˜์ด๋‚˜ ์ƒˆ๋กœ์šด ์ˆซ์ž๋ฅผ ์ด๋ฏธ ๋งŒ๋“ค์—ˆ๋‹ค๋Š” ๊ธฐ๋ก์ด ์•„๋‹ˆ๋‹ค.

ํ˜„์žฌ ์‹ค์ œ ์ฝ”๋”ฉ ์š”์ฒญ7๊ฐœยท๊ธฐ๋ก20๊ฐœ์™€ ์†Œ์ง„๋œ ํ˜ธ์ถœ ์›์žฅ์„ ์œ ์ง€ํ•œ๋‹ค. ์ƒˆ ์œ ๋ฃŒ ์‹œ๋„๋ฅผ ํ•˜๋ ค๋ฉด ๋ณ„๋„ ์‹คํ–‰ ๊ณ„ํš๊ณผ ์˜ˆ์‚ฐ ๊ธฐ๋ก์„ ์ค€๋น„ํ•œ๋‹ค. ๊ธฐ์กด protected finalยทCoSQA reserve๋Š” ์ฝ์ง€ ์•Š์œผ๋ฉฐ, ์˜์—ญ๋ณ„ ์ตœ์†Œ2,400๊ฐœ์˜ ์„œ๋กœ ๋‹ค๋ฅธ ๋ณดํ˜ธ๋œ ์ตœ์ข… ์š”์ฒญ์€ ๋ณ„๋„ ๋ชฉํ‘œ๋‹ค. ์œ ์šฉ์„ฑยท๊ถŒ๋ฆฌยทCI ๊ฒ€์ฆ์„ ํ†ต๊ณผํ•œ ์ƒˆ ๋ชจ๋ธ๋งŒ Hugging Face์— ๋ถˆ๋ณ€ ๋ฒ„์ „์œผ๋กœ ์˜ฌ๋ฆฌ๊ณ , Git์—๋Š” ์ฝ”๋“œยท๊ณ„ํšยท๊ณต๊ฐœ ์ˆ˜์น˜ยท๋ชจ๋ธ ์ฐธ์กฐ๋งŒ ๋‘”๋‹ค.