Stored Utility Plan 58 KO - teamswyg/laya-tools GitHub Wiki
์ ์ฅ ์ ๋ต ๊ธฐ๋ฐ ๋นํ์ต ํจ์ฉ58 ๊ณํ
English ยท ์ด์ ๊ทธ๋ฃน ๊ฐ์ฌ ยท ๊ณต๊ฐ ๋์57
๊ด์ธก ์ ๊ฐ๋ฐ ์ง๋จ ๊ณํ์ด๋ค. ์๋ก์ด ์ ๋ตยท๋ ๋ฆฝ ์์ฒญยท์ญํ ยทํ์ตยท๋ชจ๋ธยท๊ฐ์ค์นยท์ ๋ฃ ํธ์ถยท๋ณดํธ ์ต์ข ์ ๊ทผ0์ด๋ค. ๊ธฐ์กด72๋ถ๋ชจ์ ์ ์ฅ ์ ๋ต์ผ๋ก ์์๋ฅผ ๋ฐ๊ฟ ์ฌ์ง๋ฅผ ํ์ธํ๋ค. ํ๋ณด ์ฝ๋๋ฅผ ๋ค์ ์คํํ๊ฑฐ๋57์62๋์์ ํ์ต ๋ผ๋ฒจ์ ํฉ์น์ง ์๋๋ค. ๊ธฐ์กด ์ฌ์ฉ์ ์น์ธ ๋ฒ์์์ ์งํํ๋ฉฐ ์ถ๊ฐ ์ฌ๋ ์น์ธ ์ ์ฐจ๋ฅผ ๋ง๋ค์ง ์๋๋ค.
ํ์ธํ ์ง๋ฌธ
์งง์ ํํธ ๋ชจ๋ธ์ ํ์ตํ๊ธฐ ์ ์, ์ข์ ์์๊ฐ ๋ ๋ฆฝ ํ์ธ ํ์๋ฅผ ์ค์ผ ์ ์๋์ง ํ์ธํ๋ค. ์์ฒญ๊ณผ ํ๋ณด ์ค๋ช ๋ง ์ฌ์ฉํ๋ ๋ค ๊ฐ์ง ๊ณ ์ ๊ธฐ์ค์ ๋น๊ตํ๊ณ , ์ ๋ต์ ๋ฏธ๋ฆฌ ์๋ค๊ณ ๊ฐ์ ํ ์ํ์ ๊ณ์ฐํ๋ค. ์ด ์ํ์ ๋ชจ๋ธ์ด ๋ฌ์ฑํ ํจ์ฉยท์ค์ ํ๋ณด ์คํยทCPU/RSS/์๊ฐยทLLM ํ ํฐยท์๊ธ ์ ๊ฐ์ด ์๋๋ค.
| ๋ด์ธ ์ ๋ ฅ | SHA256 |
|---|---|
| ๊ธฐ์กด48๋ถ๋ชจ | 0fe97dd65606f4239ef9187f1fc4d9c8dc2fcaebf342612b2071220896b92df0 |
| ์ถ๊ฐ24๋ถ๋ชจ | 0d2bf6980353cefc4327af165c0f60a6455c1feea920f354dc621019ce3ed21e |
| ๊ธฐ์กด ์ ์ฅ ์ ๋ตยท๊ทธ๋ฃน | 4128400c792d2151955a1d98f7d35aca6112d097a3ac20aa280a7357996636c4 |
72๋ถ๋ชจ/216ํ๋ณด ์ค๋ช ์ ๋ต ์์34ยท๋ต ์์17ยทํ๋จ ๋ณด๋ฅ21์ด๋ค. ํ๋ณด2๊ฐ์ธ ์์ฒญ12ยท3๊ฐ48ยท4๊ฐ12๋ฅผ ๋ชจ๋ ์ ์งํ๋ค. ์ ์ฒด17/๋ผ๋ฒจ16์ฐ๊ฒฐ ๊ทธ๋ฃน์15์ด์ ํํ์ ์ด๋ฏธ ํต๊ณผํ๋ค.15๊ฐ repository ์กฐ๊ฑด์ ์ถ๊ฐํ์ง ์๋๋ค. ๊ฐ์ ํฉ์ฑ ์์ด ์์ฑ ํ๋ฆ์ ํ๊ณ์ ๊ธฐ์กด unknown/pending์ ์ ์งํ๋ค.56a์์ ์ด๋ฏธ ๋ณธ48๊ฐ ์์๋ ์๋ก์ด72๊ฐ ์ง๋จ๊ณผ ๊ตฌ๋ถํ๋ค.
์ ๋ ฅ ์ฐ๊ฒฐ๊ณผ ํน์ง ๊ฒฝ๊ณ
Go storedaudit.Bind๋ ์ ํํ3raw SHA/๋ฐ์ดํธ๋ฅผ ๋จผ์ ํ์ธํ๊ณ ๋ถ๋ชจยทํ๋ณด ID/์์/์ยทํ์ฉ ์ธ๋ฑ์คยท์ํยท๋ฒกํฐ ๊ธฐ๋กยท๊ทธ๋ฃน membership์ ์ฐ๊ฒฐํ๋ค. raw input SHA์ canonical typed-dataset SHA๋ ๋ค๋ฅด๋ฉฐ ํผ๋ํ์ง ์๋๋ค. ์ค๋ณต/๋ฒ์ ๋ฐยท๋ชจ์ยท๋ถ์์ ์
๋ ฅ์ ๊ณ ์ ์ค๋ฅ๋ก ๊ฑฐ์ ํ๋ค. unknown์ false๋ no-answer๋ก ๋ฐ๊พธ์ง ์๋๋ค.
Text๋ ์๋ฌธ request์ ์์๊ฐ ์๋ candidate ์ค๋ช
๋ง ๊ฐ์ง๋ค. ์ ๋ตยทsource/prototype/contract/group/roleยท๋ฌธ์ ํ์ผ๋ช
์ ๋ณ๋ metadata๋ค. scorer์๋ predictable local candidate ID์ ๊ณ ์ provenance๋ง ์ ๋ฌํ๋ฉฐ ์ด ๊ฐ๋ค๋ ํน์ง์ผ๋ก ์ฌ์ฉํ์ง ์๋๋ค. ์๋ฌธ512๋ฐ์ดํธ/์ ํจUTF-8์ ๊ธฐ์กด ์ ๊ทํ32๋จ์ด ๊ณ์ฝ์ ์ ์งํ๊ณ ์๋ฅด๊ฑฐ๋ ๋ค์ ์ฐ์ง ์๋๋ค. ์ค๋น ํ
์คํธ์ ์ ์ฅ ์ฐ๊ฒฐ๊ณผ literal ์์ด ๊ฒ์ฌ๋ ์ source truthยท์ค์ 72๊ฐ ์์ ๊ด์ธก์ด ์๋๋ค.
๋น์ฉ๊ณผ ๋์กฐ๊ตฐ
๋ค ๊ธฐ์ค ์์๋ fixed_order, bm25, lexical_ordered, narrow_rule์ด๋ค. ์ข์ ๋ฌธ๋ฒ์ด ์ง์ํ์ง ์๋ ์ผ๋ฐ ๋ฌธ์ฅ์ ๊ธฐ์กด BM25๋ก ๋ณต๊ทํ๊ณ fallback ๋ถ๋ชจ๋unknown์ ํฌํจํ72๋ค. ์์ฒญ์ ๊ด์ธก ๋ค behavior-v1: ๋ฌธ๋ฒ์ผ๋ก ๋ฐ๊พธ์ง ์๋๋ค. ํ๋ณด๋ฅผ ์ญ์ ํ์ง ์๊ณ ๋๋ฅ ์ ์๋ ์์๋ค.
- ๋ต ์์: ์ฒซ ํ์ฉ ํ๋ณด๊น์ง ํ์ธํ๋ ํ์. ํ์ฉ ์งํฉ์ด ์ฌ๋ฌ ๊ฐ์ผ ์ ์๋ค. oracle๋1ํ๋ค.
- ๋ต ์์: ๊ธฐ์ค๊ณผoracle ๋ชจ๋ ํด๋น ํ๋ณด ์ ์ฒด๋ฅผ ํ์ธํ๋ค.
- unknown21: ์๋72 ๋ถ๋ชจยท๊ด๊ณยท์ด์ ์ ๋จ๊ธฐ๋ ๋น์ฉ/Top1/Top3์์ ์ ์ธํ๋ค. ์ ์ธ๋0์ ์ค์ ํ์ธ0์ ์ฆ๊ฑฐ๊ฐ ์๋๋ค.
- known51์answerable34์ ๋น์ฉ์ ๋ณ๋๋ก ๋ณด๊ณ ํ๊ณ , ์์2~4ํ๋ณด์์Top3๊ฐ ์ฝ๊ฒ ํฌํ๋๋ ํ๊ณ๋ฅผ ์ ์งํ๋ค.
- ๊ฐ๋ณ ๋ถ๋ชจ์๊ทธ๋ฃน๋ณ ๋น์ฉ, known์ด ์๋16๊ทธ๋ฃน์macro๋ฅผ ์ถ๊ฐ ์ง๋จ์ผ๋ก ๋ณด๊ณ ํ๋ค. macro๋global5% ๊ธฐ์ค์ ๋์ฒดํ์ง ์๋๋ค.
์ต์ ๊ธฐ์ค์known51 ํฉ๊ณ๊ฐ ๊ฐ์ฅ ์์ ํ๋์ ๊ณ ์ ๊ธฐ์ค์ด๋ฉฐ ๋ถ๋ชจ๋ง๋ค ์ ๋ฆฌํ ๊ธฐ์ค์ ๊ณ ๋ฅด๋ ํฉ์ฑ ์ ์ฑ
์ด ์๋๋ค. ๋๋ฅ ์ ์ ๋ฐฐ์ด ์์๋ค. ํ์ ์ฌ์ง๋ (best_known_checks-oracle_known_checks)/best_known_checks์ด๊ณ ์ ํํ ์ ์ ๋น๊ต๋ก5%์ด์์ ํ์ธํ๋ค.5%๋ฏธ๋ง/์ด๋ฏธ์ต์ ์ด๋ฉด ์ด ์๋ฃ์ ํ์ต์ ์ค๋จํ๋ค. ํต๊ณผํ๋๋ผ๋ ํ์ต ๊ฐ๋ฅํ ๋ชจ๋ธยทํ์ต ์ ๊ฒฉ์ ์ธ์ฆํ์ง ์๋๋ค.
์คํ ๋ด์ธ๊ณผ ์ ํ
์ค์ source freeze์9๊ฐ non-test Go ์์ค์13๊ฐ support,3์ ๋ ฅ/์คํ๊ณํยทbinary SHA/๋ฐ์ดํธยทGo1.27.1/CGO0/ํ๋ซํผ์ ๊ณ ์ ํ๋ค. source/input freeze๋ ๋ณ๋40hex Git commit์ด๋ฉฐ ๊ฐ ์ค์ blob์ ์คํ ์ ์ ๋์กฐํ๋ค. ์ถ๊ฐ Go ์์คยทunknown/duplicate/extra-array/noncanonical ๊ณํยท๋ค๋ฅธbinary๋ฅผ ๊ฑฐ์ ํ๋ค.
๊ณต์ ์ง๋จ์1ํยท์ฌ์๋0์ด๋ค. new directory์exclusive ๊ฒฐ๊ณผ ํ์ผ์ ์คํ ์ ์ ์์ฝํ๋ค. ์ด ๊ฒฝ๋ก ์ ํ์global one-shot ๋ณด์ฅ์ด ์๋๋ฉฐ ์ธ๋ถ ๊ณต์ ์์ฅ์ด ํ์ํ๋ค. dispatch/๊ฒ์ฆ/์์ํBaselines ํธ์ถ/์๋ฃ control ranking/์๋ฃ row๋ฅผ ๊ตฌ๋ถํ๋ค. ์คํจยท๋ถ๋ถ ๊ฒฐ๊ณผ์ ํธ์ถ ํ ์ ์ฅ ์คํจ๋ฅผ ์จ๊ธฐ์ง ์๋๋ค. ํ request์Baselines ํธ์ถ์ ๋ค control ranking์ ๋ฐํํ๋ฏ๋ก ์ฑ๊ณต ๋ชฉํ๋72ํธ์ถ/288ranking/72row์ด๋ฉฐ ์ ๋ ๋ฆฝ ํ๋ณธ์ด ์๋๋ค.
๊ฐ ์ ๋ ฅยท์์คยท๊ฒฐ๊ณผ๋1MiB, binary๋64MiB๋ฅผ ์ํ์ผ๋ก ๋๋ค. Git blob์ํ์ผ๋ณ5์ด์bounded stdout์ด๋ค. ํ๊ฐ10์ด cooperative deadline์bounded row ์ฌ์ด ๋ฐ ์๋ฃ ์ ๊ฒ์ฌํ๊ณ detached worker๋ฅผ ๋ง๋ค์ง ์๋๋ค. GOMAXPROCS1ยทGo heap256MiB soft limit์ ์ค์ ์ผ๋ก์RSS/CPU/GPU/์ง์ฐ ์ค์ธก์ด ์๋๋ค. ์ resource/performance ์ฃผ์ฅ์ด๋ ์บ์ยทSIMDยทlock ์ต์ ํ๋ ์ด๋ฒ ๋ฒ์์ ํฌํจํ์ง ์๋๋ค.
๊ณต์ ๊ด์ธก ์ ์ CI ์ฌํ ๊ธฐ์ค๋ ๊ณ ์ ํ๋ค. ์์, ์ ์ ํ์ธ ์, ์ํ, ์ด์ , ๋ถ๋ชจ์ ๋๋จธ์ง ํ๊ฐ ๊ธฐ๋ก์ ์ ํํ ์ผ์นํด์ผ ํ๋ค. Linux/macOS์ ๋ถ๋์์์ ๋ฐ์ฌ๋ฆผ ์ฐจ์ด์ ํํด ๋น๊ฒ์ฆ ์ ์๋ ์์ชฝ ๋ชจ๋ ์ ํํ๊ณ abs(actual-saved) <= 1e-12*(1+abs(saved))์ฌ์ผ ํ๋ค. ์ ์๋ฅผ ๋น๊ตํ ๋ค ๊ทธ ํ๋๋ง ์ ๊ฑฐํด ๋๋จธ์ง๋ฅผ ์ ํ ๋น๊ตํ๋ค. ์๋ณธ ๊ฒฐ๊ณผ ํ์ผ์ SHA๋ ๋ณ๋๋ก ๊ณ ์ ํ๋ฉฐ ์ ์ ํ์ฉ์น๋ฅผ ๋ณด๊ณ ์ ์์ ์ด๋ ์์ ์ฐจ์ด ํ์ฉ์ ์ฌ์ฉํ์ง ์๋๋ค. CI ๋ฐ๋ณต์ ๊ณต์ ์ง๋จ ํ์๋ ๋
๋ฆฝ ์์ฒญ ์๋ฅผ ๋๋ฆฌ์ง ์๋๋ค.
๋ค์ ํ๋จ
no_roles_plan๊ณผsynthetic_single_pipeline์ ๋ณด์กดํ๋ค. ํ์ ํจ์ฉ ๋ค์๋ ๋ฌธ์ฅ ์ถฉ์ค์ฑยทํ๋/์ธ์ด coverageยท์์ฑ ํ๋ฆยท๊ณต๊ฐ ์์ฒ ์ ์ด ๊ด๊ณ๋ฅผ ๊ฒํ ํ๊ณ , ์ฐ๊ฒฐ ์์ ์ ์ฒด์train/validation/calibration membership๊ณผ ๋ณ๋ ํ์ต ์คํ ๊ณํ์ ๋ด์ธํด์ผ ํ๋ค. ์ญํ ์ด ์ ๋ฆฌํ๋๋ก ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ณ ๊ทธ๋ฃน์ ๊ณ ๋ฅด์ง ์๋๋ค.58์์ญํ 0ยทfit0ยทtraining_ready=false์ด๋ฉฐproduction ํ์ฑํ๋ฅผ ์น์ธํ์ง ์๋๋ค.
๋๋ฉ์ธ๋ณ2400๊ฐ์ ๊ณ ์ ๋ณดํธ ์ต์ข ์์ฒญ์ ์ถํ ์ต์ข ํจ์ฉยท์ผ๋ฐํ ์ฃผ์ฅ์ฉ ๋ณ๋ ๋ชฉํ๋ค. ๋ชจ๋ development fit์ ์ ํ ์ต์ ์๋ก ์ฌํด์ํ์ง ์๋๋ค. ๋ณํยท๋ฐ์ ยท๋ฒ์ญยท๋ฆฌํฐ๋ดยท๋ฐ๋ณตยทseed/๋ชจ๋ธ ์๋ก2400์ ์ฑ์ฐ์ง ์๊ณ ๊ธฐ์กด protected final/CoSQA reserve๋ฅผ ์ฝ๊ฑฐ๋ ์ฌ๋ฐฐ์ ํ์ง ์๋๋ค. FP32 ์ฃผ ํ๋ณดยทINT8/PTQ childยท๋ณ๋ ternary STE sibling์ ์ดํ ๋ณ๋ ์๊ฒฉ์ ๊ฐ์ถ ๋น๊ต๋ก ์ ์งํ๋ค.
์ ๋ชจ๋ธ ๋ณธ์ฒด๋Git์ ๋ฃ์ง ์๋๋ค. ์ด๋ฒ์๋ ์์ฒด ๊ณต๊ฐ Apache-2.0 ์๋ฃ๋ฅผ ์ฌ์ฌ์ฉํ๊ณ LICENSE๋ฅผ ๋ด์ธํ๋ค. ๊ธฐ์กด56a/b/c/d/e/57 ๊ฒฐ๊ณผ๋ ๊ณ ์น์ง ์๋๋ค. Go ํ๊ฐ๊ธฐ์๊ณํ์๋จผ์ ๋ด์ธํ๊ณ ๊ฒฐ๊ณผ๋๋ณ๋๋ฌธ์์CI๊ฒ์ฌ๋ก์ถ๊ฐํ๋ฉฐ, CI ํต๊ณผยท์๋ ๋ณํฉ์ํ์ธํ๋คWiki/์ด์์๊ทผ๊ฑฐ๋ฅผ์ฐ๊ฒฐํ๋ค.