First Claim Fit 71 KO - teamswyg/laya-tools GitHub Wiki
์ฒซ ์์ ์ฃผ์ฅ ๋ชจ๋ธ์ ์ด๋๊น์ง ์๋
ํ์ต์ ํ ๋ฒ ์๋ฃํ์ง๋ง ํ์ฌ ๋ชจ๋ธ์ ๊ธฐ์กด ๊ท์น๋ณด๋ค ๋์์ด ๋์ง ์์์ต๋๋ค. ๋ชฉํ๋ โ์ด ํ๋ณด๋ถํฐ ํ์ธํด ๋ณด๋ฉด ์ข๊ฒ ๋คโ๋ผ๋ ์์ฃผ ์์ ์์ ํํธ์ ๋๋ค. ๋ชจ๋ ํ๋ณด๋ฅผ ๋ณด์กดํ๊ณ ์ฌ๋ยท์์ด์ ํธ๊ฐ ์ค์ ๊ทผ๊ฑฐ๋ฅผ ํ์ธํฉ๋๋ค. ์์ ์น์ธ์ด๋ ํ๋ณด ์ญ์ ์ ์ฌ์ฉํ์ง ์์ต๋๋ค.
์ ๋ต์ ์๋ ๊ฒ์ฆ ์์ฒญ15๊ฐ์์ ๋จ์ดยท์์ ๊ท์น์27๋ฒ, ํ์ต ๋ชจ๋ธ์31๋ฒ ํ์ธํ์ต๋๋ค. ์ฝ14.8% ์ ํํ๊ณ ์ ๋ต์ด ์๋10๊ฐ ์์ฒญ ์ค ์ฒซ ํ๋ณด๊ฐ ์ ๋ต์ธ ๊ฒฝ์ฐ๋5โ2์์ต๋๋ค. ๊ธฐ์กด5% ๊ฐ์ ์กฐ๊ฑด์ ๊ทธ๋๋ก ๋๊ณ ์คํจ๋ฅผ ๊ธฐ๋กํ์ต๋๋ค. ๋ฏธํ์ 5๊ฐ๋ ๋ณ๋ ๋ณด์กดํ๊ณ ์ ๋ต ์์5๊ฐ๋ ์ ์ฒด ํ๋ณด ํ์ธ ๋น์ฉ์ ์ ์งํฉ๋๋ค.
์ ์ฒด ๊ฐ๋ฐ ์๋ฃ76๊ฐ ์ค train44/validation20/calibration12๋ฅผ ์์ฒ ๊ทธ๋ฃน ๋จ์๋ก ๋ถ๋ฆฌํ์ต๋๋ค. ํ์ต์๋91/45ํ์ ์ฌ์ฉํ๋ฉฐ0๊ฐ์ค์น18/1ํ๋ ๋ฌผ๋ฆฌ์ ์ผ๋ก ๋ณด์กดํ์ต๋๋ค. ๋ชจ๋ธ์ Go์8192๊ฐ FP32 ๊ณ์๋ฅผ ๊ฐ์ง๋ฉฐ Laya ์ธ์ฝ๋ยทGPU ์์ด ์คํํ์ต๋๋ค. ํ์ผ32,792B์ ์ ์ฒด ํ์ต ์ต๋RSS์ฝ26.98MiB๋ ๋ค๋ฅธ ์์น์ ๋๋ค. ์ฝ0.805์ด๋ ์ ์ฒด ํ์ต ๊ณผ์ ์ ํ ๋ฒ ๊ด์ธก์ด๊ณ ์์ ์ถ๋ก ์ง์ฐยทCodex ํ ํฐ ์ ๊ฐ์ด ์๋๋๋ค.
flowchart LR
A[๊ณต๊ฐ ๊ฐ๋ฐ ์๋ฃ72๊ฐ] --> B[์ ์ ํ ์ฌ๋ก4๊ฐ์ ๋ฌถ์ด ์ ์ฒด76๊ฐ]
B --> C[์ ์ฒด ์์ฒ ๊ทธ๋ฃน ๋ถ๋ฆฌ์ Go ๋ฐฐ์ด]
C --> D[์ฒซ BCE ๋ชจ๋ธ: ํจ์ฉ ์คํจ]
C --> E[BCE + ๊ฐ์ ์์ฒญ์ ์์ ์์ค: ํ์ ์คํ ์ค๋น]
E --> F[ํจ์ฉ ํ์ธ ํ ๋ณ๋ ์์ถ ์คํ]
์ฒซ ๋ชจ๋ธ์ ํ๊ท ์์ค์ ์ค์์ง๋ง ํ๋ยทํด์ ยท๊ฒฐ๊ณผ ์ ๋ฌ ์์์ ๊ฒ์ฆ ์์ฒญ ์ธ ๊ฐ์์ ์์๊ฐ ์ ํํ์ต๋๋ค. ์์ค ํ๋์ ๋ฌธ์ ๋ก ๋จ์ ํ์ง ์์ต๋๋ค. ๋ค์ ํ ๋ฒ์ ๊ธฐ์กด BCE๋ฅผ ์ ์งํ๋ฉด์ ๊ฐ์ ์์ฒญ์ ์ ๋ต ์ ์๊ฐ ์ค๋ต๋ณด๋ค ๋์์ง๋๋ก ํ๋ ์๋ ์์ ์์ค์ ์ถ๊ฐํฉ๋๋ค. ๊ณ์1ยท์๋seedยท๋ง์คํฌยทvalidation BCE epoch ์ ํยท๊ฒ์ฆ ๊ธฐ์ค์ ๋ฏธ๋ฆฌ ๊ณ ์ ํ๊ณ ํ์ํ์ง ์์ต๋๋ค. ์ด ๋ชจ๋ธ์ ์์ถ ์์์ด ์๋๋ผ ๋ชฉ์ ์ ๋ฐ๊พผ ํ์ ์คํ์ ๋๋ค.
์ง๊ธ์ ๊ธฐ์กด ๋๊ตฌ๋ฅผ ์์ฃผ ํ๋ก์ธ์ค๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค.
riido-shortclaim --stream --baseline lexical_ordered < requests.jsonl
์
๋ ฅ์ ์งง์ ์์ฒญ๊ณผ ํ๋ณด1..8๊ฐ์ด๋ฉฐ512๋ฐ์ดํธ/์ ๊ทํ32๋จ์ด ํ๋๋ฅผ ์ ์งํฉ๋๋ค. ์ถ๋ ฅ์ ๋ชจ๋ ํ๋ณด์ ํ์ธ ์์์ unverified_heuristic ์ํ์
๋๋ค. JSONL ์คํธ๋ฆผ์ผ๋ก ์ฌ๋ยท์์ด์ ํธ๊ฐ ๋ฐ๋ณต ํธ์ถํ ์ ์์ต๋๋ค. ์ด ๋ช
๋ น์ ์ฒซ ํ์ต ๊ฐ์ค์น๋ฅผ ์ฝ์ง ์์ผ๋ฉฐ ๊ธฐ๋ณธ Codex ์ค์ ์ ๋ฐ๊พธ์ง ์์ต๋๋ค.
์๋72๊ฐ ์ค๋น ๋ฐ์ดํฐ๋ HF exact commit์ ๊ณต๊ฐํ๊ณ 20๊ฐ ํ์ผ์ ๋ค์ ๋ด๋ ค๋ฐ์ ๋์กฐํ์ต๋๋ค. ๋ชจ๋ธ ๊ณ์๋ ์์ต๋๋ค. ์ฒซ ํ์ต์ ์ ์ฒด ๊ธฐ๋ก, ์ค์ ๋ฐฐ์ด ์ค๋น, CIยทWikiยทHF ํ์ธ์ ๊ตฌ๋ถํด ์ฝ์ ์ ์์ต๋๋ค.
๊ฐ์ validation์ ๋ณด๋ฉฐ ํ์์ ์ ํํ์ผ๋ฏ๋ก ๊ฐ์ ๋ผ๋ ๊ฐ๋ฐ ์ ํธ์ ๋๋ค. 76๊ฐ๋ ๊ด๊ณ๊ฐ ๋ฌถ์ธ19๊ทธ๋ฃน์ ๊ฐ๋ฐ ์๋ฃ์ด๊ณ ๋๋ฉ์ธ๋ณ ์ต์2,400๊ฐ ๋ ๋ฆฝ ์์ฒญ์ ๋ณดํธ๋ ์ต์ข ๊ณจ๋ ์ ์ ๋์ ํ์ง ์์ต๋๋ค. ํ์ AI ๋น์ฉ๊ณผ ์ค์ LLM ์ ๊ฐ์ ์์ง ๋ฏธ์ธก์ ์ด๋ฉฐ source ๋ค์์ฑยทproduction ์น์ธ์ ํ์ง ์์์ต๋๋ค.