State Hints V3 KO - teamswyg/laya-tools GitHub Wiki
์ํ ํํธ V3: ์ค์ ์ด์ด ํ์ต๊ณผ ์ฐ๊ตฌ ํ๋ณด ๊ฒ์
English ยท ๊ธฐ๋ฅ ์๋ด ยท ์ด์ 100๊ฑด ๊ด์ฐฐ ยท Home
์งง์ ์ ๋ฌด ๋ฉ์์ง์์ ์งํยท์๋ฃ ๋ณด๊ณ ยท์ง๋ฌธ์ ์ฝ์ด ํ์๋ฅผ ์ ์ํ๋ ์์ Go ๋ชจ๋ธ์ ์ค์ ๋ก ์ด์ด ํ์ตํ์ต๋๋ค. ๋ชจ๋ธ๊ณผ ๊ณต๊ฐ ์๋ฃ์ ๊ฒ์ยท์ฝ๊ธฐ ๊ฒ์ฆ๋ ๋ง์ณค์ต๋๋ค. ๋ค๋ง ์๋ฃ ์คํ์๊ฐ ๋์์ผ๋ฏ๋ก ์ฐ๊ตฌ ํ๋ณด๋ก๋ง ๊ณต๊ฐํ๋ฉฐ, ๊ธฐ๋ณธ ๋ชจ๋ธ์ด๋ ์ ์ฑ ์ ์๋์ผ๋ก ๋ฐ๊พธ์ง ์์ต๋๋ค.
์ด ํ์ด์ง๋ V3 ํ์ต๊ณผ ๊ฒ์์ ๊ธฐ๋ก์ ๋๋ค. ํ์ฌ ๊ฐ๋ฐ ์ค์ธ ์ค์ ๋คผ์ด๋ reader ์ฐ๊ฒฐ๊ณผ๋ ๋ณ๋์ ๋๋ค. ์๋ ๊ฒฐ๊ณผ๋ ํฉ์ฑ fixture reader์์ ์ป์์ผ๋ฉฐ ์ค์ ์ฑ ์กฐํยท์ ๋ฌด ๋ณ๊ฒฝยท์ด์ ์๋ฃ ํ๋จ์ ๊ฒ์ฆํ ๊ฒฐ๊ณผ๊ฐ ์๋๋๋ค.
๋ฌด์์ ํ์ตํ๋์?
๋ชจ๋ธ์ 1,024๊ฐ ํน์ง๊ณผ 8๊ฐ ์๋ฏธ๋ฅผ ์ฌ์ฉํ๋ FP32 ์ ํ softmax ๋ถ๋ฅ๊ธฐ์ ๋๋ค. Go์ฉ RSH ํ์ผ์ 32,960๋ฐ์ดํธ์ ๋๋ค. ๋ฌธ์ฅ์ ์์ฑํ๋ ๋ชจ๋ธ์ด ์๋๋ฉฐ, Laya ๊ฐ์ค์นยทLoRAยท์ฆ๋ฅยท1.58-bit ๋ชจ๋ธ์ด๋ผ๋ ์ฃผ์ฅ์ ํ์ง ์์ต๋๋ค.
8๊ฐ ์๋ฏธ๋ question, blocker, reference, progress, completion_report, cancel_request, planned, unclear์ ๋๋ค. ํ์ ์คํ์ ๋์์ ์งํยท์๋ฃ ๋ณด๊ณ ยท์ง๋ฌธ ์ธ ์ข ๋ฅ์ ๋๋ค. ์๋ฃ ๋ณด๊ณ ๋ ์์ฑ์๊ฐ ๋๋๋ค๊ณ ์ฃผ์ฅํ๋ ๋ฌธ์ฅ์ด์ง, ์ค์ ์ ๋ฌด ์๋ฃ๋ฅผ ํ์ธํ ์ฌ์ค์ด ์๋๋๋ค.
๋ถ๋ชจ๋ Go v0.2์ด๋ฉฐ, ๊ณ ์ SHA-256์ ae6761dc81501b39ae17f29b48f0f0a8b35305fe11e297b9a787af0f9636df05์
๋๋ค. ์ด ๊ฐ์ค์น์์ ์ ํฉ์ฑ 400๋ฌธ์ฅ์ผ๋ก CE+AdamW๋ฅผ ์คํํ์ต๋๋ค. optimizer ์ํ๋ ์๋ก ์์ํ์ต๋๋ค.
| ์ ํ ๋ชจ๋ธ ์กฐ๊ฑด | ๊ฐ |
|---|---|
| ์ ํ ํ๋ณด | warm_lr005 |
| epoch / batch / seed | 40 / 32 / 1729 |
| ํ์ต๋ฅ / decay | 0.005 / 0.001 |
| ์ optimizer ๊ฐฑ์ | 520ํ |
| ๋์ training step | 1,920 โ 2,440 |
| ๋ณด์ ์จ๋ | 1.0 |
| confidence / margin | 0.9 / 0.05 ์ ์ง |
4๊ฐ ํ๋ณด ์ค validation 80๊ฐ์ ์งํยท์๋ฃ ๋ณด๊ณ ยท์ง๋ฌธ๊ณผ none NLL๋ก ์ ํํ์ต๋๋ค. none์ ๋๋จธ์ง 5๊ฐ ์๋ฏธ์ ํ๋ฅ ํฉ์ ๋๋ค. ๋ณ๋ calibration 80๊ฐ๋ก ์จ๋๋ฅผ ์ ํ๊ณ ๋ชจ๋ธยท์กฐ๊ฑด์ ์ ์ฅํ ๋ค test 200๊ฐ๋ฅผ ์ฒ์ ์ฝ์์ต๋๋ค. test ๊ฒฐ๊ณผ์ ๋ง์ถ์ด ํ๋ณด ์ ํ ๊ธฐ์ค์ด๋ ํ์ ๊ธฐ์ค์ ๋ฐ๊พธ์ง ์์์ต๋๋ค.
๋ฌด์์ด ์ข์์ก๊ณ , ๋ฌด์์ด ๋๋น ์ก๋์?
๊ฐ์ ์ ํฉ์ฑ test 200๊ฐ์์ ๋ถ๋ชจ์ ์ ํ ํ๋ณด๋ฅผ ๋น๊ตํ์ต๋๋ค.
| ์์ฑ์์ ์ฃผ์๊ณผ ๋น๊ตํ ๊ฒฐ๊ณผ | ๋ถ๋ชจ v0.2 | ์ฐ๊ตฌ ํ๋ณด v0.3 |
|---|---|---|
| ์ ์ฒด 8๊ฐ ์๋ฏธ ์ ๋ต | 152/200 | 158/200 |
| ์งํ ์ ๋ต | 45/50 | 44/50 |
| ์๋ฃ ๋ณด๊ณ ์ ๋ต | 40/50 | 46/50 |
| ์ง๋ฌธ ์ ๋ต | 24/50 | 36/50 |
| ์ ์ ์ค ์ ๋ต | 57/57 | 90/94 |
| ์๋ชป๋ ์๋ฃ ๋ณด๊ณ ์ ์ | 0 | 4 |
์ ์ฒด ์ ๋ต๊ณผ ์ง๋ฌธ ์ ๋ต, ์ฌ๋ฐ๋ฅธ ์ ์์ ์๋ ๋์์ต๋๋ค. ํ์ง๋ง ์งํ ์ ๋ต์ ํ๋ ์ค์๊ณ , ์๋ฃ ๋ณด๊ณ ๋ฅผ ์๋ชป ํ์ํ ์ ์์ด 4๊ฐ ์๊ฒผ์ต๋๋ค. ๋ ๋ง์ด ์ ์ํ๋ ๊ฒ๊ณผ ์๋ชป๋ ํ์๋ฅผ ์ค์ด๋ ๊ฒ์ ๋ค๋ฅธ ๋ชฉํ์ ๋๋ค. ์ด ๊ตํ๊ด๊ณ๋ฅผ ์จ๊ธฐ์ง ์๊ณ ๊ธฐ๋ณธ ํ์ฑํ๋ฅผ ๋ณด๋ฅํฉ๋๋ค.
์ ์ฒด 8๊ฐ ์๋ฏธ์ confusion, ๊ฐ๋ณ ํ๋ฅ , ๋ณด๋ฅ, ์คํจ์ ์ง๋จ์ ์๋ณธ ์ฒซ ๊ฒฐ๊ณผ์ ๋ณด์กดํ์ต๋๋ค. ์ค์ ์กฐํยทmutationยท์ํ ๋ณ๊ฒฝ์ 0์ด๋ฉฐ, synthetic catalog placement๋ ๊ฒ์ฆ๋์ง ์์์ต๋๋ค.
๊ฒ์์ ์์ค ํ์ธ
- HF ๋ชจ๋ธ๊ณผ 19๊ฐ ํ์ผ: revision
cf6deca9eb2c9919b1bbbbe82ce3576453d67a40, ์ด 1,156,546๋ฐ์ดํธ. ๋ชจ๋ ํ์ผ์ ์์ ํ ๋ค์ ์ฝ์ด ๋ฐ์ดํธ์ SHA-256์ ๋์กฐํ์ต๋๋ค. - statehint-v0.3-research ํ๊ทธ๋ ๊ฐ์ revisionยทํ์ผ ๋ด์ฉ์ผ๋ก ํ์ธํ์ต๋๋ค.
- ์ ํ ๋ชจ๋ธ SHA-256:
6fafd22cb5af6f3c9a5ab51ae0022e67e82d7d753702a770aab5559e1804869d. - PR 159์ source CI๊ฐ ์ฑ๊ณตํ ๋ค ๋ด์ด ddd090fe49230a1ec52d9919c3105ca327eddd66์ผ๋ก ๋ณํฉํ์ต๋๋ค.
๊ฒ์ฌํ ์์ค 1e05eff7c05b2e6007bfd70fa1559d6631974b0d์ ๋ณํฉ๋ณธ์ tree๋ ๋ชจ๋ 778d0135e48a210c40766710fec616f2fe08ba54์
๋๋ค. ๊ณต๊ฐ ํจํค์ง์ ๋จ์ PR OPEN ๊ฐ์ ์ํ๋ ์ต์ข
ํ ๋น์์ ๊ธฐ๋ก์ด๋ฉฐ, ํ์ฌ ๋ณํฉ์ ์ ์์์ฆ๊ณผ ๋งํฌ๋ก ๊ตฌ๋ถํฉ๋๋ค. source CI ์ฑ๊ณต์ ์ฝ๋ ๊ฒ์ฌ ์๋ฃ๋ฅผ ๋ปํ๋ฉฐ ์ด์ ๋ชจ๋ธ์ ์์ ์ฑ์ด๋ ์ค์ ์
๋ฌด ์๋ฃ๋ฅผ ์
์ฆํ์ง ์์ต๋๋ค.
์ฌ๋๊ณผ ์์ด์ ํธ์ ๋ช ์์ ์ธ ์ฌ์ฉ
Go 1.27.1๊ณผ ์ ๋ณํฉ ์์ค๋ฅผ ๊ธฐ์ค์ผ๋ก, ๋ชจ๋ธ ๊ฒฝ๋ก๋ฅผ ๋ช ์ํ ๋ก์ปฌ ์คํ์ ์ฌ์ฉํ ์ ์์ต๋๋ค. ๋ค์ด๋ก๋ํ ํ์ผ์ ํฌ๊ธฐ์ ์ SHA-256์ ๋จผ์ ํ์ธํ์ธ์.
hf download JooYoon/riidolaya-statehint-go-v0.3 statehint.rsh \
--revision cf6deca9eb2c9919b1bbbbe82ce3576453d67a40 \
--local-dir ./models/statehint-v0.3
go run ./cmd/riido-statehint --model ./models/statehint-v0.3/statehint.rsh \
--text '์ด ๋ณด๊ณ ๊ฐ ์ด๋ ์์
๋ฒ์๋ฅผ ๊ฐ๋ฆฌํค๋์ง ์๋ ค ์ฃผ์ธ์.'
์ด๋ ๋ช ์์ ์ผ๋ก ์ ํํ ๋ถ๋ฅ ์คํ์ ๋๋ค. ์ค์ ๋คผ์ด๋ ์ ๋ฌด์ ๋ผ๋ฒจยท์ด๋ชจ์ง๋ฅผ ๋ณ๊ฒฝํ๊ฑฐ๋ ์๋ฃ ์ํ๋ฅผ ํ์ ํ๋ ์ฌ์ฉ๊ณผ ๊ตฌ๋ถํด์ผ ํฉ๋๋ค. ์์ด์ ํธ๋ ๋ชจ๋ธ ๋ฒ์ ๊ณผ ์๋ณธ ๋ฉ์์ง์ ์ฐ๊ฒฐ์ ์ ์งํ๊ณ , ๋ชจํธํจ์ ์๋ฃ๋ก ๋ฐ๊พธ์ง ์์์ผ ํฉ๋๋ค. ์ด Wiki ์์ ์์๋ ๋ช ๋ น์ ์คํํ๊ฑฐ๋ ์ ์ถ๋ก ์ ํ์ง ์์์ต๋๋ค.
ํ์ต ์ฌํ ์๋ด์ ๋ค ์๋ฃ ํ์ผ์ ๋ชจ๋ธ ์นด๋์ ์์ต๋๋ค. ์๋ณธ ๊ณํ์ ๋น์์ ์๋ cache ๊ฒฝ๋ก๋ฅผ ๋ณด์กดํ๊ณ , ๋ณ๋ ๊ณต๊ฐ ์ฌํ ๊ณํ์ ๋ค ์๋ฃ ๊ฒฝ๋ก๋ง ๊ณต๊ฐ ํ์ผ๋ช
์ผ๋ก ๋ฐ๊ฟ๋๋ค. ์๋ณธ driver์ ๊ณต๊ฐ cmd/riido-statehint-tune/main.go๋ ๊ฐ์ ๋ณธ๋ฌธ์ด๋ฉฐ, SHA-256์ 1d9de51793bc3440978efd16a72d1d3eed6ff4c9785bf797a06bb21b67153d15์
๋๋ค. 24๊ฐ ์๋ ์์ค ์
๋ ฅ์ ๊ณํ์ SHA์ ๊ณต๊ฐ ์ ์ฅ์ ์ฐธ์กฐ๋ก ์ ์งํฉ๋๋ค.
์๋ฃยท๋ผ์ด์ ์คยทํด์์ ํ๊ณ
ํ์ต 400 / ๊ฒ์ฆ 80 / ๋ณด์ 80 / test 200์ ๋ AI ์์ฑ์๊ฐ ๋ง๋ ์๋ณธ ํฉ์ฑ 760๊ฐ์ ๋๋ค. ์ค์ ์ฌ์ฉ์ ์ ๋ฌด์ ์ ํ ground truth, ๋ ๋ฆฝ ์ธ๊ฐ ์ฃผ์, ํต๊ณ์ ์ผ๋ก ๋ ๋ฆฝ์ ์ธ ์ด์ ํ๋ณธ์ด ์๋๋๋ค. test๋ ์ด์ ๋ ธ์ถ๋ ๊ฐ๋ฐ ์๋ฃ๋ผ ๋ค์ ํ๋ณด์ ์ blind test๋ก ์ฌ์ฌ์ฉํ์ง ์์ต๋๋ค.
์๋ณธ ํฉ์ฑ ๋ณธ๋ฌธยท์ฃผ์๊ณผ ๊ณต๊ฐ Go ์ฝ๋์ ์ ์ธ ๋ผ์ด์ ์ค๋ Apache-2.0์ ๋๋ค. ํจํค์ง์ LICENSE์ ์๋ณธ NOTICE๋ฅผ ํฌํจํ์ต๋๋ค. ๋น๊ณต๊ฐ ์ฑ ์์คยท์ค์ ์ ๋ฌด ๋ณธ๋ฌธยท์ธ์ฆ ์ ๋ณดยทํธ์คํธ ๊ฒฝ๋กยทraw profile์ ๊ณต๊ฐํ์ง ์์์ต๋๋ค.
์๋ ๋จ์ผ macOS Go ํ๋ก์ธ์ค์ OS peak RSS๋ 15,974,400๋ฐ์ดํธ์์ต๋๋ค. ๋ฒ์๋ 4๊ฐ fitยท๊ฒ์ฆยท๋ณด์ ยทtestยท๋ชจ๋ธ reload ์ ์ฒด์ด๋ฉฐ ๋ชจ๋ธ ๋จ๋ ๋ฉ๋ชจ๋ฆฌ, Go heap, GPU ์ฌ์ฉ๋์ผ๋ก ํด์ํ์ง ์์ต๋๋ค. ์ ์ฅ ๋ชจ๋ธ์ ๋ค์ ์ฝ์ด 200๊ฐ ์ ์ฒด ํ๋ฅ ์ ์ผ์น๋ฅผ ํ์ธํ์ง๋ง, ์ด๋ ์ค์ ๋คผ์ด๋ ์ฐ๊ฒฐ์ด๋ ์ผ๋ฐํ ์ฑ๋ฅ์ ๊ฒ์ฆ๊ณผ ๋ณ๊ฐ์ ๋๋ค.