Resident Resource Usage 56d KO - teamswyg/laya-tools GitHub Wiki
์์ฃผ ํํธ ๋น์ฉ์ ํ์ธํ๋ ๋ฐฉ๋ฒ56d
English ยท ์ค์ ๊ฒฐ๊ณผ ยท ๊ตฌํ ๊ฒฝ๊ณ
์์ด์ ํธ๊ฐ ์์ ํํธ ๋๊ตฌ๋ฅผ ๊ณ์ ์ผ๋๊ณ ์์ฒญํ ๋ ์ผ๋ง๋ ๊ฐ๋ฒผ์ด์ง ํ์ธํ๋ ๊ฐ๋ฐ์ฉ ๋๊ตฌ๋ค. ์ ๋ ฅ์ ๊ณต๊ฐ ์์ฒด ์์ฑ ์๋ฃ์ด๊ณ , ์ด๋ฒ56d๋ ํ์ต ๋ชจ๋ธ ์์ด ๋์ํ๋ Go ๊ธฐ์ค์ ์ ์ค์ JSONL ์ฒ๋ฆฌ ๋น์ฉ์ ๊ธฐ๋กํ๋ค. ์ถ์ฒ ์์๋ ๊ฒ์ฆํ ํ๋ณด๋ฅผ ๋จผ์ ๋ณด์ฌ์ฃผ๋ ํํธ์ด๋ฉฐ, ํ๋ณด๋ฅผ ์ญ์ ํ๊ฑฐ๋ ์์ ์คํ์ ์น์ธํ์ง ์๋๋ค.
๋จผ์ ํํธ ์ฒ๋ฆฌ๊ธฐ๋ฅผ ์ง์ ์จ๋ณด๊ธฐ
์ ์ฅ์ ๋ฃจํธ์์ Go1.27.1๋ก ๋น๋ํ๋ค. Python์ด๋ GPU๋ ํ์ํ์ง ์๋ค.
CGO_ENABLED=0 go build -trimpath -buildvcs=false -p=1 -o bin/riido-shortclaim ./cmd/riido-shortclaim
bin/riido-shortclaim --baseline lexical_ordered < examples/shortclaim/order.json
bin/riido-shortclaim --stream --baseline lexical_ordered < examples/shortclaim/resident.jsonl
์ฒซ ๋ช
๋ น์ ๋ณด๊ธฐ ์ข์ JSON ํ์ผ ํ ๊ฑด์ ์ฒ๋ฆฌํ๊ณ , ๋ ๋ฒ์งธ ๋ช
๋ น์ ์ค์ ํ ์ค JSONL์ ์คํธ๋ฆผ์ผ๋ก ์ฒ๋ฆฌํ๋ค. ์คํธ๋ฆผ์ JSON ํ ์ค์ ๋ณด๋ด๋ฉด ์๋ต ํ ์ค์ ๋ฐ๋๋ค. ๊ฐ์ ํ๋ก์ธ์ค์ ๋ค์ ์ค์ ๊ณ์ ๋ณด๋ผ ์ ์๋ค. verification_order์ ์๋ ํ๋ณด๊ฐ ๋ชจ๋ ๋จ๊ณ ์ํ๋ unverified_heuristic์ด๋ค. ์คํธ๋ฆผ ์ข
๋ฃ๋ ์
๋ ฅ ์ข
๋ฃ๋ก ์๋ฆฐ๋ค. ์๋ชป๋ JSON์ด๋ ํ๋ณด ์ ํ ์๋ฐ์ ์ฑ๊ณตํ ํํธ๋ก ๋ฐ๊พธ์ง ์๋๋ค.
์ด ๋น์ฉ ์ธก์ ์ด Laya ONNX ์ถ๋ก ์ด๋ Codex ํ ํฐ ๊ฐ์๋ฅผ ์ฆ๋ช ํ์ง๋ ์๋๋ค. Codexยทriido-daemon ์ฐ๋์ ๋ณ๋ ์ ํ์ด๋ฉฐ ์ด ๋ช ๋ น์ด ์๋ ๋ฑ๋กํ์ง ์๋๋ค.
์ธก์ ์๋ฃ ์ค๋นํด ๋ณด๊ธฐ
CGO_ENABLED=0 go build -trimpath -buildvcs=false -p=1 -o bin/riido-residentperf ./cmd/riido-residentperf
bin/riido-residentperf --stage prepare --out .cache/my-resident-preparation
์ ์ถ๋ ฅ ๋๋ ํฐ๋ฆฌ๋ฅผ ์ฌ์ฉํ๋ค. corpus.json์๋ ์ ํํ ์ ์ก bytes์ ์๋ ๋ถ๋ชจ ์ฐ๊ฒฐ, preparation.json์๋ ์ ํ ์ยทํด์ยท์์ค ๋ชฉ๋ก, build-recipe.json์๋ ๊ณ ์ ๋น๋ ์กฐ๊ฑด์ด ์๋ค. ์ค๋น๋ child ์์ ์ธก์ ยท์ ์ ๋ต ๊ฐ์ฌยทํ์ตยท๋ชจ๋ธ ํธ์ถ์ ํ์ง ์๋๋ค. ์ ๊ทํ ํน์ง ํด์๋ ์ค๋ณต ์ ํ ๊ธฐ์ค์ด๋ฉฐ, ์๋ฌธ ๋ฌธ๋ฒ์ด ๋ค๋ฅธ ์์ฒญ์ ์์ ํ ๊ฒฐ๊ณผ ์บ์ ํค๊ฐ ์๋๋ค.
๊ฒ์๋ ๊ณต์ ์คํ์ ์ฝ๊ฑฐ๋ ์ฌํํ๊ธฐ
๊ธฐ๊ณ ์คํ ๊ณํ, ์๋ณธ ์ฐ๊ฒฐ corpus, ์คํ ์ ๋ด์ธ, ์๋ฌธ ๊ฒฐ๊ณผ, ์์น ์์ฝ์ ํจ๊ป ์ฝ๋๋ค. ์์ค ์ปค๋ฐ 60b03500fab417470d48d1a096be4ca1f43fafc2์ ์คํ ์ ๊ณํ ์ปค๋ฐ 891e52d83e9aaf39c87cb5ef55c6d492724bebf1์ ๋ถ๋ฆฌํด ๊ณ ์ ํ๋ค.
๊ฒ์๋ ๊ณต์ ๊ณํ์ darwin/arm64์ ์ค์ Go1.27.1 ๋ ๋ฐ์ด๋๋ฆฌ SHA์ ๋ฌถ์ฌ ์๋ค. ๋ค๋ฅธ OSยทGo ๋ฒ์ ยท์ถ๊ฐ ๋น๋ ์ต์ ์ ๊ทธ๋๋ก ํต๊ณผํ์ง ์๋๋ค. ๊ณ ์ recipe ํ๊ฒฝ์ ์ ์ฉํด ๋น๋ํ๊ณ ํด์๋ฅผ ํ์ธํ ๊ฒฝ์ฐ ๋ค์ ํํ๋ก ์คํํ๋ค.
bin/riido-residentperf --stage replay \
--plan experiments/short-claim/execution-plan-56d.json \
--plan-sha256 8c0b7a5b697e52d4afffbb5e4ca2f9b5d3c992a31d4eae4f9767bf57e2dbfed2 \
--corpus experiments/short-claim/wire-corpus-56d.json \
--binary bin/riido-shortclaim \
--out .cache/my-separate-resident-replay
์ ์คํ์ ์ ๊ฐ๋ฐ ๊ด์ธก์ด๋ค. ๊ธฐ์กด56d ๊ฒฐ๊ณผ์ ํฉ์น๊ฑฐ๋ ์ต์ด ๊ด์ธก์ ๋ฐ๊พธ์ง ์๋๋ค. ๋ฐ์ดํธยทํ๊ฒฝ์ด ๋ค๋ฅด๋ฉด ์ต์ง๋ก ํด์๋ฅผ ์์ ํด ๊ธฐ์กด ๊ณํ์ผ๋ก ์คํํ์ง ์๊ณ , ๋ณ๋ ๊ณํ๊ณผ ๊ฒฐ๊ณผ ๋ฒ์ ์ ๋จผ์ ๋ง๋ ๋ค. CLI๋ ์์ค commit์ ํ์์ ๊ฒ์ฌํ๋ฉฐ Git blob31๊ฐ์ ๊ทธ commit์ ์ค์ ๊ด๊ณ๋ ๊ฒ์๋ ๋ณ๋ ๋ด์ธ ๊ธฐ๋ก์ผ๋ก ํ์ธํ๋ค.
์ฑ๊ณต ํ์๋ง ์ฝ์ง ๋ง๊ณ ๋จ๊ณ๋ณ ์, EOFยท์ข ๋ฃยทreader ์ ๋ฆฌ, ์ค๋ฅ, ์ ์ถ๋ ฅ ํด์๋ ํ์ธํ๋ค. ์คํจ ๋ค ํ์ ํ์ ๋ฏธ์์์ผ๋ก ๋จ๊ณ ์๋ ์ฌ์๋ํ์ง ์๋๋ค. ๊ธฐ์กด ์ถ๋ ฅ๋ ๋ฎ์ด์ฐ์ง ์๋๋ค. ํ์ต์ด๋ ์ด์ ์น์ธ ๋๊ตฌ๊ฐ ์๋๋ค.
์ซ์๋ก ์ ์ ์๋ ๊ฒ
์ด Mac์์ child peak RSS๋9.2187510.515625MiB์๊ณ timed wire RTT์ ํ๋ณ p95 ๋ฒ์๋0.0218750.050333ms์๋ค. ์ฒซ ์๋ต577.13ms๋ ๋ณ๋๋ก ๋ณด์กดํ๋ค. Controller์33.109375MiB peak๋ ์ค๋น์ ์ธก์ ์์
์ ํฌํจํ๋ ๋ณ๋ ๊ฐ์ด๋ค. ์ด ๋ peak๋ฅผ ๋ํด ๋์์ ์ฌ์ฉํ ๋ฉ๋ชจ๋ฆฌ๋ก ๋ณด์ง ์๋๋ค.
72๊ฐ ์๋ณธ ์ค3ํ๋ณด48๊ฐ๋ง ์ ํํ๊ณ ๋๋จธ์ง24๊ฐ๋ ์ ์ธํ๋ค. ์ด48๊ฐ๋ฅผ25,080ํ ๋ฐ๋ณตํ์ผ๋ฉฐ ๋
๋ฆฝ์ ์ธ2400๊ฐ ๊ณจ๋ ์
์ด ์๋๋ค. ์ด๋ฒ corpus์ narrow_rule์ ๋ชจ๋ ๋ฒ์ ๋ฐ ์์ฒญ์ด๋ผ BM25 fallback์ผ๋ก ์ฒ๋ฆฌ๋๋ค. ๋ฐ๋ผ์ ์ข์ ๋ฌธ๋ฒ ์ฑ๊ณต ๊ฒฝ๋ก์ ์ฑ๋ฅ์ด๋ ์๋ฏธ ์ ํ๋๋ฅผ ์ป์๋ค๊ณ ํด์ํ์ง ์๋๋ค.
๋ค์ ์บ์ยทSIMDยท๋์์ฑยท๋ชจ๋ธ ์คํ์ ๋ณ๋ ๋น๊ต ๊ณํ์ด ํ์ํ๋ค. ํ์ฌ ์๋ฃ๋ ์์ ๋นํ์ต ๊ธฐ์ค์ ์ ์์ ๋น์ฉ์ ์ ๊ณตํ๋ฉฐ, LLM ์ ๊ฐ ํจ๊ณผ์ ๋ชจ๋ธ์ ์ ์ฉํจ์ ๋ณ๋ ์ค์ ์์ ๊ฒ์ฆ์ผ๋ก ํ๋จํ๋ค.