Typed Behavior Next 56c KO - teamswyg/laya-tools GitHub Wiki
๋ค์ ์คํ56c: ์์ ์์ฑ ์ฃผ์ฅ๊ณผ ํ์ต ์ ํจ์ฉ ํ์ธ
English ยท 56b ๊ฒฐ๊ณผ ยท ๊ธฐ์กด ํ๋ณด ๊ณํ
56b์ ์ ์ฒด17ยท๋ผ๋ฒจ16๊ทธ๋ฃน์ ์ค๋น ํํ์ ๋์๋ค. ํ์ง๋ง ๋์ผ ํฉ์ฑ ์์ด ์์ฑ ํ๋ฆ์ด๊ณ ์ญํ ยท๋ถํ ยท์ ๊ธฐ์ค์ ํจ์ฉ์ ์์ง ๊ณ ์ ํ์ง ์์๋ค. ๋ค์ ๋จ๊ณ์์๋ ํํ์ ํต๊ณผํ๋ค๋ ์ด์ ๋ง์ผ๋ก ํ์ตํ๊ฑฐ๋ ๊ธฐ์กด ๊ฐ์ค์น๋ฅผ ๊ต์ฒดํ์ง ์๋๋ค.
๊ฐ์ ์ฌ์ฉ์๋ ์ฝ๋๋ฅผ ํ์ธํ๋ ์์ด์ ํธ๋ค. โ์ด๋ ํ๋ณด๊ฐ ์ค๋ฅ ๋ ์ถ๋ ฅ์ ๋น์ฐ๋๊ฐโ๋ผ๋ ์์ ์๊ตฌ์ ๋ํด ์ผ ๋๊ตฌ๊ฐ ๊ฒ์ฌ ์์๋ง ์ ์ํ๋ค. ์ธ๋ถ์ ๋ ๋ฆฝ ๊ฒ์ฌ๊ฐ ์ค์ ์ฝ๋๋ฅผ ํ์ธํ๋ฉฐ, ๋ชจ๋ ํ๋ณด์ fallback์ ์ ์งํ๋ค. ์ฌ๋ฌ ํํธ๋ฅผ ๋ฐ๋ณต ์ฌ์ฉํ๋๋ผ๋ ์ ์๋ ์ ๋ต ํ๋ฅ ยท์คํ ์น์ธยท์ ์ฒด ํจ์์ ์ ๋ต์ด ์๋๋ค.
๋ค์ ๋ ๊ฒฝ๋ก๋ฅผ ๋ณ๋๋ก ์ค๋นํ๋ค.
| ๊ฒฝ๋ก | ๋จผ์ ๋ง๋ค์ด์ผ ํ ๊ฒ | ํต๊ณผ๋ก ์๋ฏธํ์ง ์๋ ๊ฒ |
|---|---|---|
| ํ ์์ฑ์ ์ฃผ์ฅ | quote ์ delimiter ๋ณด์กด, escape๋ delimiter ๋ณด์กด, ์ค๋ฅ ๋ zero output ๋ฑ ํ๋์ ๋ฒ์ยท๊ด์ธก๊ฐยทliteral ์ ๋ต. ์ schema/๊ณํ/๋ฌธ์ฅ ๊ฒํ | ๋ถ๋ถ ์์ฑ์ ํต๊ณผํ ์ฝ๋๊ฐ ํจ์ ์ ์ฒด ๊ณ์ฝ๋ ์ถฉ์กฑํ๋ค๋ ์ฃผ์ฅ |
| ํ์ต ์ ์์ ํจ์ฉ | ์๋ ค์ง ๋ต ์์/no-answer/unknown์ ๋ถ๋ฆฌํ ๊ณ ์ ์์ยทBM25ยท์ดํยท์ข์ ๊ท์นยทoracle ๋น๊ต, ๊ฐ์ ๋น์ฉ ๋ถ๋ชจยทํ๋ณด ๋ณด์กด | oracle ์ํ์ด ์ค์ ๋ชจ๋ธ ์ด๋์ด๋ LLM ์ฌ์ฉ๋ ๊ฐ์๋ผ๋ ์ฃผ์ฅ |
์์ฑ๋ณ๋ก ๊ฐ์ ์์ฒ ํจ์๊ฐ ๋ค๋ฅธ ์ ๋ต ์งํฉ์ ๊ฐ์ง ์ ์๋ค. ์๋ฅผ ๋ค์ด ์ด๊ธฐ ๋นASCII ์ค๋ฅ์ ์ถ๋ ฅ์ ๋น์ฐ๋ ํ๋ณด๊ฐ ๋์ค์ ๋ฌธ๋ฒ ์ค๋ฅ์์๋ ๋ถ๋ถ ์ถ๋ ฅ์ ๋จ๊ธธ ์ ์๋ค. ์์ฒ์ full-contract correct/wrong ํ์๋ฅผ ๋ถ๋ถ ์์ฑ์ ๋ผ๋ฒจ๋ก ์ฌ์ฌ์ฉํ์ง ์๋๋ค. ์์ฑ๋ณ literal ๊ด์ธก์ ๋ฐ๋ก ์ค๋นํ๊ณ , ์ง์ ๋ฐยท์ค๋ช ๋ถ์์ ยท๊ฒ์ฌ ๋ฌธ์ ๋ unknown์ผ๋ก ๋๋ค. 56b์ ๋ณด๋ฅ๋ ๊ตฌ๋ถ์4์์ฒญ์ ๋ฐ๊พธ์ง ์๋๋ค.
ํ ํจ์์ ์์ฑ์ ์ฌ๋ฌ ๊ฐ ๋ง๋ค๋๋ผ๋ ๊ฐ์ ๋ถ๋ชจยท์ฝ๋ยท์ค๋ตยทhelper ์ฐ๊ฒฐ๋ก ๋ฌถ๋๋ค. ์์ฑ ์ยท๋ฐ๊ฟ ์ด ๋ฌธ์ฅยทseedยทํ์ ยทINT8/PTQ ์์์ ๋ ๋ฆฝ ๊ทธ๋ฃน์ ๋๋ฆฌ์ง ์๋๋ค. ๋ ์ข์ ์๋ฏธ ๋ชจ๋ธ์ด ์ค์ ๋ก ์ ๋ฆฌํ์ง ํ์ธํ๋ ค๋ฉด ๊ณต๊ฐ ์์ฒ์์ ์๋ก ๋ค๋ฅธ ๊ฐ๋ฐ ์์ฒญ120โ240๊ณผ ์ธ์ดยท์กฐ๊ฑดยท์์ฑ ๋ถํฌ์ ๋ค์์ฑ์ ํจ๊ป ํ๋ณดํด์ผ ํ๋ค. ๊ถ๋ฆฌยท๊ณ ์ revisionยท๋ซํ compile ๋ฒ์ยท๋ ๋ฆฝ ์ ๋ต์ ๋จผ์ ํ์ธํ๋ฉฐ ๊ธฐ์กด ์์ฒ120๊ฐ ์กฐ์ฌ snapshot์ ๋ณด์กดํ๋ค.
๊ฐ์ ์ฌ์ง๊ฐ ์ถฉ๋ถํ ์๋ฃ๊ฐ ํ๋ณด๋ ๋ค ํ์ต/validation/calibration ์ญํ ๊ณผ ์ ์ฒด ๊ทธ๋ฃน ๊ด๊ณ๋ฅผ ๊ฒฐ๊ณผ ์ ์ ๊ณ ์ ํ๋ค. ๊ธฐ์กด ์ต์15 ๊ธฐ์ค๊ณผ ์ต์5% ํจ์ฉ ํ์์กฐ๊ฑด์ ๋ฎ์ถ์ง ์๋๋ค. FP32 ๋ถ๋ชจ, ๋์ผ ๋ถ๋ชจ์ INT8/PTQ ์์, ๊ฐ์ ์์ฐ์ ์ผ์ง STE ํ์ ๋ ๋ณ๋ ๊ด๊ณ๋ก ๊ธฐ๋กํ๋ค. ๊ธฐ์กด ์ต๋8 fitsยท16ํ์ ์ฐ์ถ๋ฌผ ์ ์์ ์ค์ ํ์ต ์คํ ๊ณํ์ด ์ค๋น๋ ๋๋ง ์งํํ๋ค. ์์นด์ด๋ธ์ bit ์์ ์ถ๋ก ๋ ํผ์น ๋ฐฐ์ด์ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ๋ฐ๋ก ์ธก์ ํ๋ค.
์์ ๊ฒฝ๋ก๋ ๋ณ๋ ๊ณํ์ผ๋ก ์งํํ๋ค. ๋จผ์ ์บ์ ์๋ ์์ฃผ JSONL์์ ๋์ผ ์์ฒญ๊ณผ ์๋ก ๋ค๋ฅธ ๊ณต๊ฐ ์์ฒญ์ ๋ถ๋ฆฌํ๊ณ startupยทwarmupยท์ค์ ์ฒ๋ฆฌยทpipeยทcontroller ๋น์ฉ๊ณผ ์ ์ฒด ์์ RSS/CPU๋ฅผ ์ธก์ ํ๋ค. ๊ทธ ๋ค queue ํ๋๊ฐ ์๋ open-loop๋ฅผ ๊ฒํ ํ๋ค. ์ค์ ์ฌ์ฌ์ฉ ์ด๋์ด ๊ด์ธก๋๊ธฐ ์ ์๋ ์บ์ยทlockยทSIMDยทGPU๋ฅผ ์ฑ๋ฅ ๊ฐ์ ์ผ๋ก ์ฃผ์ฅํ์ง ์๋๋ค. ์ด ๋ฌธ์๋ ํด๋น ์คํ์ด๋ ์๋ก์ด ์ซ์๋ฅผ ์ด๋ฏธ ๋ง๋ค์๋ค๋ ๊ธฐ๋ก์ด ์๋๋ค.
ํ์ฌ ์ค์ ์ฝ๋ฉ ์์ฒญ7๊ฐยท๊ธฐ๋ก20๊ฐ์ ์์ง๋ ํธ์ถ ์์ฅ์ ์ ์งํ๋ค. ์ ์ ๋ฃ ์๋๋ฅผ ํ๋ ค๋ฉด ๋ณ๋ ์คํ ๊ณํ๊ณผ ์์ฐ ๊ธฐ๋ก์ ์ค๋นํ๋ค. ๊ธฐ์กด protected finalยทCoSQA reserve๋ ์ฝ์ง ์์ผ๋ฉฐ, ์์ญ๋ณ ์ต์2,400๊ฐ์ ์๋ก ๋ค๋ฅธ ๋ณดํธ๋ ์ต์ข ์์ฒญ์ ๋ณ๋ ๋ชฉํ๋ค. ์ ์ฉ์ฑยท๊ถ๋ฆฌยทCI ๊ฒ์ฆ์ ํต๊ณผํ ์ ๋ชจ๋ธ๋ง Hugging Face์ ๋ถ๋ณ ๋ฒ์ ์ผ๋ก ์ฌ๋ฆฌ๊ณ , Git์๋ ์ฝ๋ยท๊ณํยท๊ณต๊ฐ ์์นยท๋ชจ๋ธ ์ฐธ์กฐ๋ง ๋๋ค.