Claim Checks 66 69 KO - teamswyg/laya-tools GitHub Wiki
์์ ์ฃผ์ฅ ํํธ๋ฅผ ํ์ต ๋ฐ์ดํฐ๋ก ์ฐ๊ฒฐํ๊ธฐ66โ69
English ยท ์ด์ ์ค๋น64โ67
๋ชฉํ๋ ์งง์ ์์ฒญ๊ณผ ํ๋ณด ์ค๋ช ์ ์ฝ๊ณ , ์ฌ๋์ด๊ฑฐ๋ ์์ด์ ํธ๊ฐ ๋จผ์ ํ์ธํ ํ๋ณด๋ฅผ ์ ์ํ๋ ์์ฃผ ์์ ๋ชจ๋ธ์ด๋ค. ์๋ฅผ ๋ค์ด ์ค์ฒฉ ๊ฒฝ๋ก๊น์ง ์ฐพ๊ณ ์ถ์ ์์ ์ ์ฌ๋ฌ ํจํด์ ๋ณด์ฌ ์ค ๋, ๋ง์ ๊ฐ๋ฅ์ฑ์ด ํฐ ํจํด์ ์์ ์ ์ํ๋ค. ์ต์ข ํ๋จ์ ์ค์ ์ฝ๋ ๊ฒ์ฌ๋ก ํ์ธํ๋ค. ํ์ธํ ํ๋ณด๊ฐ ์๊ฑฐ๋ ๋ชจ๋ธ ์ ๋ ฅ์ ๋ง์ง ์๋ ์์ ์ ๊ธฐ์กด ํ๋ฆ์ผ๋ก ๋๊ธด๋ค.
์ด๋ฒ ๋จ๊ณ์์๋ ์ ๋ชจ๋ธ์ ๋ด๊ธฐ ์ ์ ์๋ ๋ฌธ์ฅยท์ ๋ตยท์ฐ๊ฒฐ ๊ทธ๋ฃนยทํ์ต ์ ์ธ ํ์๋ฅผ Go ๋ฐฐ์ด์ ์ ํํ ์ฐ๊ฒฐํ ์ค๋น๋ฅผ ์งํํ๋ค. ์ค์ ์ญํ ๋ฐฐ์ ๊ณผ ๊ณต๊ฐ ํจ์ ๊ด์ธก์ ๊ฐ๊ฐ ํ ๋ฒ ์คํํ๋ค. ์ ํ์ต์ด๋ ์ค์ Codex ๋น์ฉ ์ ๊ฐ ๊ฒฐ๊ณผ๋ ์์ง ์๋ค.
| ์๋ฃํ ์ผ | ๊ด์ธก ๊ฒฐ๊ณผ | ๋ค์ ํ์ต์์ ์ฐ๋ ๋ป |
|---|---|---|
| ์ญํ ๋ฐฐ์ 66 | ๋ผ๋ฒจ ๊ทธ๋ฃน train10ยทvalidation3ยทcalibration3 | ๊ฐ์ ์ฝ๋ ๊ฐ์กฑ์ ์ฌ๋ฌ ์ญํ ์ ๋๋์ง ์๋๋ค. |
| upstream ์ค๋ช 68 | ์์ด ์์ฒญ4๊ฐยทํ๋ณด10๊ฐยท์ฝ๋ ๊ฐ์กฑ2๊ฐ. ๊ณ ์ ํธ์ถ12๊ฐ์ String3๊ฐ๋ฅผ ๊ด์ธกํด15๊ฐ ๋น๊ต๊ฐ ๋ชจ๋ ์ผ์น | ๋ฏธ๋ฆฌ ์กด์ฌํ๋ MIT ์ค๋ช ์ ํ์ ๋ ์๋ฏธ ๋ชฉํ์ ์ฐ๊ฒฐํ๋ค. |
| ํ์ต ์ ์ธ ์ฐ๊ฒฐ69 | ์ ๊ฒฉ ์์ฑ35ยท์์ฑ95, known ์ ์ธ23ยทunknown63 | ์ ์ธ๋ ํ์ต ๊ฐ์ค์น0์ผ๋ก ํํํ๊ณ ์๋ ํ๋ณด์ ์ ๋ต์ ๋ณด์กดํ๋ค. |
| ์ ๋ ฅ ํ๋69 | ์๋ ์์ฒญ72๊ฐ์ ์ค๋ช 216๊ฐ ๋ชจ๋ ๊ธฐ์กด512bytesยท32๋จ์ด ํ๋ ์์ ์์ | ๋ฌธ์ฅ์ ์ค์ด๊ฑฐ๋ ํ๋๋ฅผ ๋ฐ๊พธ์ง ์๊ณ ๋ณํํ๋ค. |
์ด๋ค ๋ฌธ์ฅ์ด ํ์ต์ ๋ค์ด๊ฐ๋
์๋ ํจ์ ๊ฒ์ฌ์ ์ ๋ต๊ณผ ๊ทธ ํจ์๋ฅผ ์ค๋ช ํ๋ ๋ฌธ์ฅ์ ํ์ง์ ๊ตฌ๋ถํ๋ค. ํจ์์ ๋์์ด ๋ง๋๋ผ๋ ์ค๋ช ์ด ๋ถ์กฑํ ์ ์๋ค. ๊ทธ๋ฐ ์ค๋ช ์ ํ๋ณด ๋ชฉ๋ก์ ๋จ๊ธฐ๋ฉด์ ์์ค ๊ณ์ฐ์์๋ง ์ ์ธํ๋ค. ์์ฒญ21๊ฐ์ unknown ์ํ๋ ๋ณด์กดํ๋ฉฐ ์์ฑ ์ ๋ต์ผ๋ก ๋ฐ๊พธ์ง ์๋๋ค.
ํ์ต์ ๋ฐ์๋๋ ํ๋ณด๊ฐ ์๋ ๊ทธ๋ฃน ์๋ train9ยทvalidation3ยทcalibration3์ด๋ค. ๊ธฐ์กด ์ค๋น ํํ์ ๊ทธ๋๋ก ๋ง์กฑํ๋ค. Go ํฌ์ ๋๊ตฌ๋ known train90ํยทvalidation36ํ์ ๋ชจ๋ ๋ณด์กดํ๊ณ , ์ด ๊ฐ์ด๋ฐ ์ ์ธ๋18ยท1ํ์๋ ๊ฐ์ค์น0์ ๋ฃ๋๋ก ์ค๋นํ๋ค. Calibration์ known27ยทunknown9ํ๋ณด๋ ๊ฐ์ฌ ์๋ฃ๋ก ๋จ๊ธฐ๊ณ fit์ ๋ฃ์ง ์๋๋ค. ์ค์ ์๋72๊ฐ ํฌ์์ ๋ณ๋์ ๊ณ ์ ๊ณํ์ผ๋ก ์งํํ๋ค.
๊ณต๊ฐ ์ค๋ช ์ ์ด๋ป๊ฒ ๊ฒ์ฆํ๋
Semver ๋ ์์ฒญ์ ์ ํํ v1.2.3์์ leading v๋ฅผ ํ์ฉํ ์ง๋ง ๋ฌป๋๋ค. NewVersion ํ๋ณด์ ์ธ์ฉ์ ํจ์ ์ ์ฉ ์ฃผ์์ด ์๋ package-level bullet์ด๋ฏ๋ก, ๊ฐ์ ๋ฌธ์์ parsing ๋งฅ๋ฝ๊ณผ ํจ์ ๊ฒฝ๋ก๋ฅผ ํจ๊ป ๊ธฐ๋กํ๋ค. Glob ๋ ์์ฒญ์ ๋ช
์ํ ๋ ํ์ผ ์ด๋ฆ์์ ์ค์ฒฉ ๊ฒฝ๋ก๋ฅผ ํฌํจํ ์ง๋ง ๋ฌป๋๋ค. ์ด ์ ํ ๋ฒ์์ ํ๋ณด ์ ๋ต ์ ์์ ์์ฑ5ยท์์ฑ5๋ค. ๋ณด์กฐ ๊ด์ธก์ธ missing-patch acceptance์ String์ ๋ชจ๋ธ ๋ชฉํ์ ์ถ๊ฐํ์ง ์์๋ค.
์๋ณธ ํจ์์ ๊ฒฐ๊ณผ๊ฐ ์์๊ณผ ๋ง๋ ๊ฒ, ์ค๋ช ์ด ๋ช ์ํ ํ์ ๋ฒ์์์ ์ด๋ฅผ ์ ๋ฌํ๋ ๊ฒ, ์ ํ์ต ๋ฐ์ดํฐ๊ฐ ์ฌ๋ฌ ์์ฑ ์์ฒ์ ์ถฉ๋ถํ ํฌํจํ๋ ๊ฒ์ ์๋ก ๋ค๋ฅธ ๊ฒํ ๋ค. ๊ธฐ์กด72๊ฐ๋ ๊ฐ์ ํฉ์ฑ ์์ด ์์ฑ ํ๋ฆ์ด๊ณ , upstream์ ๋ค ์์ฒญ๋ AI-assisted ์ด์์ด๋ค. ๋ฌธ์ ๋ฒ์ญยท๊ฒ์ฌ ํญ๋ชฉ ์ยทํ๋ณด ์๋ฅผ ๋ ๋ฆฝ ์์ ์๋ก ์ธ์ง ์๋๋ค. ์๋ฌธ๊ณผ ์ ์ฒด MIT ๊ณ ์ง๋ฅผ ๋ณด์กดํ๊ณ , ๋ชจ๋ธ ๋ณธ์ฒด๋ GitHub์ ๋ฃ์ง ์๋๋ค.
๋ฉ๋ชจ๋ฆฌ ์์น๋ฅผ ์ฝ๋ ๋ฐฉ๋ฒ
์ญํ ๋ฐฐ์ 66์ ์ ์ฒด ์์ ํ๋ก์ธ์ค peak RSS๋16.64MiB, ๊ณต๊ฐ ํจ์ ๊ด์ธก68์6.89MiB์๋ค. ์ด๋ ์๋ฃ ์ค๋น์ ํจ์ ๊ด์ธก ํ๋ก์ธ์ค์ ๊ฐ์ด๋ค. Go heap, GPU ์ฌ์ฉ๋, ์์ ๋ชจ๋ธ์ ์ถ๋ก ๋น์ฉ, ๋์ ์ฒ๋ฆฌ ์ฑ๋ฅ์ ๋ณ๋ ์ธก์ ํด์ผ ํ๋ค. 0.00์ด๋ก ๋ฐ์ฌ๋ฆผ๋ CPU ์๊ฐ๋ CPU ์์ ์ด ์์๋ค๋ ๋ป์ ์๋๋ค. ์์ ๋ก๊ทธยท๊ฐ์ธ ๊ฒฝ๋กยท๋ก์ปฌ ๋ฐ์ด๋๋ฆฌ๋ ๊ณต๊ฐ ๊ธฐ๋ก์์ ์ ์ธํ๋ค.
๋ค์ ์คํ
๊ณ ์ ์ญํ ์ ์ ์ฅ ์์ ์ง๊ณ69๋ ์๋ ํจ์ ์ ๋ต51์์ฒญ์ ์ ์งํ๋ค. ๊ฒ์ฆ ์ญํ ์ ๋จ์ผ ์ต์ ๊ธฐ์ค์ lexical22ํ, ์ ๋ต์ ์๋ ์์๋17ํ์๋ค. ๊ธฐ์กด5% ํ์์กฐ๊ฑด์ ๋ง์กฑํ๋ ๊ฐ์ ์ฌ์ง์ด๋ฉฐ ํ์ต ์ฑ๊ณผ๋ ์๋๋ค. ์ ์ฒด๋ ๋จ์ผ BM25๊ธฐ์ค91ํ/oracle73ํ๋ฅผ ์ ์งํ๋ค. ์ญํ ๋ง๋ค ๋ค๋ฅธ ์ต์ ๊ธฐ์ค์ ํฉ์น90ํ๋ก ์ ์ฒด ๊ธฐ์ค์ ๋ฐ๊พธ์ง ์๋๋ค. ์ค๋ช mask๊ฐ ๋ชจ๋ true์ธ ์์ฒญ๋ง ๋ณด๋ B์ง๋จ์๋ ๋ณ๋ gate๋ฅผ ์ ์ฉํ์ง ์์๋ค.
์๋72๊ฐ๋ฅผ ๋จผ์ ๊ณ ์ ์ญํ ยท์์ค mask๋๋ก ๋ฐฐ์ด์ ๋ณํํ๊ณ , ๊ฐ์ ์ญํ ๊ณผ ์๋ ํจ์ ์ ๋ต์์ ๊ณ ์ ๊ธฐ์ค์ ๊ฒ์ฌ ๋น์ฉ์ ํ์ธํ๋ค. ๊ทธ ๋ค ์ upstream4๊ฐ๋ฅผ ๋ณ๋ ๋ฒ์ ์ผ๋ก ๊ฒฐํฉํ ๋ ์ ์ฒด ์ฝ๋ ๊ฐ์กฑ ๊ด๊ณ์ ์ญํ ์ ๋ค์ ๊ณ ์ ํ๋ค. ๊ฒฐ๊ณผ๋ฅผ ๋ณด๊ณ seedยท์ญํ ยทํ๋ณดยทmask๋ฅผ ๋ฐ๊พธ์ง ์๋๋ค. FP32 ๋ถ๋ชจ๊ฐ ์ค์ ํจ์ฉ์ ๋ณด์ธ ๋ค INT8/PTQ ์์๊ณผ ์ผ์ง STE ํ์ ๋ฅผ ๋น๊ตํ๋ค. ๋๋ฉ์ธ๋ณ2400๊ฐ ๋ณดํธ ์ต์ข ์์ฒญ ๋ชฉํ๋ ๋ณ๋๋ก ์ ์งํ๋ค.
์งํ ์ด์19์์ CIยท์คํยท๊ฒ์์ ์๋ฃ ์ํ๋ฅผ ํ์ธํ ์ ์๋ค. ์ด์ ์ค๋น ๋ฌธ์์ ๋น์ ๋ฏธ์คํ ์ํ๋ ์ญ์ฌ ๊ธฐ๋ก์ผ๋ก ๋จ๋๋ค.