Pilot100 Results KO - teamswyg/laya-tools GitHub Wiki
์งํยท์๋ฃ ๋ณด๊ณ ยท์ง๋ฌธ: ์ฒซ 100๊ฑด ๊ฐ๋ฐ ์ํ ๊ฒฐ๊ณผ
English ยท ๊ธฐ๋ฅ ์๋ด ยท ์์ ์ ํ ์ ์ฉ ๋ฒ์
๋ณ๋๋ก ์์ฑํ ํฉ์ฑ ๊ฐ๋ฐ ๋ฌธ์ฅ100๊ฐ๋ฅผ ์ค์ ๊ฒ์๋ Go ๊ฐ์ค์น๋ก ์ฒ๋ฆฌํ์ต๋๋ค. Go v0.2๋69/100, ๋ถ๋ชจ v0.1์31/100์ด์์ง๋ง, ์๋ฃ ๋ณด๊ณ ๋10/25์์ต๋๋ค. ์ด ๋จ๊ณ์์ ๊ฐ์ค์นยท์จ๋ยท๊ธฐ์ค์ ๋ฐ๊พธ๊ฑฐ๋ ์ ๋ชจ๋ธ์ ์ ํํ์ง ์์์ต๋๋ค. ์ค์ Riido ์กฐํยทํ์ ์ค์นยท์ํ ๋ณ๊ฒฝ์0์ ๋๋ค.
์งํยท์๋ฃ ๋ณด๊ณ ยท์ง๋ฌธ์ ๊ฐ25๊ฑด, ๋ค๋ฅธ ๋ค์ฏ ์๋ฏธ๋ ๊ฐ5๊ฑด์ด๋ฉฐ ํ๊ตญ์ดยท์์ด๋ ๊ฐ50๊ฑด์ ๋๋ค. ๋ชจ๋ AI ์์ฑ์์ ํ๊ตฌ ๋ฌธ์ฅ๊ณผ ์๋ฏธ ์ฃผ์์ ๋๋ค. ๋ ๋ฆฝ ์ธ๊ฐ ๊ฒ์๋ ์ค์ ์ ํ ์ ๋ต์ด ์๋๋ฉฐ ๊ณ ์ family100๊ฐ๋ ํต๊ณ์ ๋ ๋ฆฝ์ฑ์ ๋ณด์ฅํ์ง ์์ต๋๋ค. ์ด๋ฆยท๋ฒํธยท๋ฒ์ญ์ผ๋ก ํ ์๋ฅผ ๋๋ฆฐ ์๋ฃ๋ ์๋๋๋ค.
๊ฐ์ 100๊ฑด์ ๋น๊ต
| ๋น๊ต๊ตฐ | ์ ์ฒด ์ ๋ต/100 | ํ์ ์ ์ | ์ฌ๋ฐ๋ฅธ ์ ์ | ์๋ชป๋ ์ ์ |
|---|---|---|---|---|
| ๊ฒ์ Go v0.2 | 69 | 16 | 15 | 1 |
| ๋ถ๋ชจ Go v0.1 | 31 | 7 | 5 | 2 |
| ๊ธฐ์กด ๊ท์น | 35 | 22 | 19 | 3 |
| speech-act ๊ท์น | 44 | 31 | 28 | 3 |
๋ชจ๋ธ์ ๊ธฐ์กด temperature์ confidence0.9ยทmargin0.05๋ฅผ ์ ์งํ์ต๋๋ค. ๊ท์น์ one-hot ์ ์๋ ๋ณด์ ๋ ํ๋ฅ ์ด ์๋๋๋ค. ์ ์ฒด ์ ๋ต ์์ ์ ์ ๋ฒ์๋ ๋ณ๋ ๊ฒฐ๊ณผ์ด๋ฉฐ, ๊ท์น์ด ๋ ๋ง์ ๋ฌธ์ฅ์ ์ ์ํ๋ค๊ณ ๋ชจ๋ธ๋ณด๋ค ์ ํํ๋ค๊ณ ๊ฒฐ๋ก ๋ด๋ฆฌ์ง ์์ต๋๋ค.
| v0.2์ ํ์ ์๋ฏธ | ๋ถ๋ฅ ์ ๋ต/ํด๋น25๊ฑด | ์ฌ๋ฐ๋ฅธ ์ ์/์์ฑ๋ ์ ์ |
|---|---|---|
| ์งํ ๋ณด๊ณ | 21/25 | 6/6 |
| ์๋ฃ ๋ณด๊ณ | 10/25 | 3/4 |
| ์ง๋ฌธ | 18/25 | 6/6 |
์ ์ฒด ์ ๋ต๋ฅ 69%, ์ ์ ์ ๋ฐ๋15/16, ์ฌ๋ฐ๋ฅธ ํ์ coverage15/75(20%)๋ ๋ถ๋ชจ๊ฐ ๋ค๋ฆ ๋๋ค. ํ๊ตญ์ด๋38/50, ์์ด๋31/50์ ๋๋ค. ์์ ํฉ์ฑ40๊ฑด์85%๋ฅผ ์ด๋ฒ100๊ฑด์์ ์ ์งํ๋ค๊ณ ์ฃผ์ฅํ์ง ์์ต๋๋ค.
๋์ ์ ์์์๋ ํ๋ฆฐ ์๋ฃ ๋ณด๊ณ
๊ณต๊ฐ ํฉ์ฑ ์ฌ๋ก์ ์๋ฌธ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
Do completed checks have to be repeated after only the description changes?
์ ๋ต ์ฃผ์์ ์ง๋ฌธ์ธ๋ฐ v0.2๋ completion_report๋ฅผ 0.98825(์ฝ98.8%) ์ ์๋ก ์ ์ํ์ต๋๋ค. ๋ถ๋ชจ๋ ๊ฐ์ ์ค๋ฅ๋ฅผ ๋์ต๋๋ค. ์๋ฌธยท์ฃผ์ยท์คํจ๋ ๊ทธ๋๋ก ๋ณด์กดํ์ต๋๋ค. completion_report๋ ์๋ฃ๋๋ค๊ณ ์ด ๋ฌธ์ฅ์ ๋ถ๋ฅํ๋ ์๋ฏธ์ด๋ฉฐ ์ค์ ์คํ ์ฑ๊ณต์ด๋ ์ ์ฒด ์
๋ฌด ์๋ฃ์ ์ฆ๋ช
์ด ์๋๋๋ค.
8๊ฐ ์๋ฏธ์ NLL์2.9244โ0.9607, Brier๋1.0299โ0.4471์ด์์ต๋๋ค. ๋ถ๋ชจ์ ์์์ temperature๋0.7๊ณผ0.9์ด๋ฏ๋ก ๋ณด์ ํจ๊ณผ๋ฅผ ํฌํจํ ๋น๊ต์
๋๋ค. ์ ์ฒด8๊ฐ ํ๋ฅ ๊ณผ confusion์ ์ ์งํ๊ณ , ์ธ ํ์ ๋ฐ์ ๋ค์ฏ ์๋ฏธ๋ฅผ ํฉํ none์ ๋ณ๋ ์์ค ์ง๋จ์๋ง ์ฌ์ฉํฉ๋๋ค. ์์ธก์ ์ธ ์๋ฏธ๋ก ์ฌ์ ๊ทํํ๊ฑฐ๋ ์ฐจ์ ์ ํ์ฉ ์๋ฏธ๋ก ๋ฐ๊พธ์ง ์์ต๋๋ค.
๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ๋ง๋๋ ๋ ์์ ์คํ ํ์ผ
๊ฐ์100๊ฑด์ ๋ ๋ณ๋ macOS ํ๋ก์ธ์ค์์ ๋ฐ๋ณตํด wrapper ๋น์ฉ์ ๋น๊ตํ์ต๋๋ค. ๋ชจ๋ ํ๋ฅ ยท์งํยท์ ์ยทmetadata๋ ์ ํํ ๊ฐ์์ต๋๋ค. ์ด ๋ฐ๋ณต์ ์ ๋ ๋ฆฝ ์ฌ๋ก๋ฅผ ์ถ๊ฐํ์ง ์์ต๋๋ค.
| ํ ๋ฒ์4๋น๊ต๊ตฐ ์ฒ๋ฆฌ | ๊ณต์ฉ riidolaya | ์ ์ฉ riido-statehint-pilot |
|---|---|---|
| ๋ฐ์ด๋๋ฆฌ ํ์ผ ํฌ๊ธฐ | 11,875,234B(์ฝ11.88MB) | 4,390,322B(์ฝ4.39MB) |
| ์ต๋ OS RSS | 20,463,616B | 12,566,528B |
| JSON ์ธ์ฝ๋ฉ ์ Go heap ํ๋ณธ | 1,892,600B | 1,650,904B |
๊ฐ ํ๋ก์ธ์ค๋ ๋ ๋ชจ๋ธ์100๋ฒ์ฉ, ๋ ๊ท์น์100๋ฒ์ฉ ํธ์ถํ์ต๋๋ค. ํ์ผ ์ฝ๊ธฐยท๋ชจ๋ธ ๋ก๋ฉยทJSONยทํฉ์ฑ catalogยท๋ณด๊ณ ์ ์ฒ๋ฆฌ๋ฅผ ํฌํจํ ํ ๋ฒ์ ์คํ์ ๋๋ค. ์ค์ ๋คํธ์ํฌ ์กฐํยท์ฅ๊ธฐ ์ด์ยทGPU๋ ํฌํจํ์ง ์์ผ๋ฉฐ Go heap์ RSS์ ๋ํ์ง ์์ต๋๋ค. ์ข์ ๋ถ๋ฅ ๊ตฌ๊ฐ์ ์๊ฐ์ ์ ์ฒด ์์ฒญ ์ฒ๋ฆฌ๋์ผ๋ก ํ๋ํ์ง ์์ต๋๋ค.
๊ฐ์ ํจํค์ง๋ riidolaya state-hint-pilot ๋๋ ์ ์ฉ ๋ช
๋ น์ผ๋ก ์คํํ ์ ์์ต๋๋ค. ๋ช
์์ ์ธ ๋ก์ปฌ ๊ฐ์ค์น๋ฅผ ์ฝ๊ณ checksumยท์
๋ ฅยท์์ฐ์ ํ์ธํ๋ฉฐ ๊ธฐ์กด ๊ฒฐ๊ณผ ํ์ผ์ ๋ฎ์ด์ฐ์ง ์์ต๋๋ค. ์คํ ์์ ์ต์
์ ์ฐธ๊ณ ํ์ธ์. ์ค์ ๋ฐ์ดํฐ์ ๋ณธ๋ฌธ๊ณผ ๋ณด๊ณ ์๋ ๊ธฐ๋ณธ private์
๋๋ค.
์์คยทCIยทHub ๊ฒ์ ํ์ธ
- ์์ค6a4c4f9์ CI37422306314๋ LinuxยทmacOSยทsecretsยทquality ๋ชจ๋ ์ฑ๊ณตํ์ต๋๋ค. ๋ด ๋ณํฉ e8ffd580์ ์์ค tree๋474397f3์ผ๋ก ๋์ผํฉ๋๋ค.
- ์ด ์ํ์ Go CPU ๋จ๊ณ๋ ๊ฐOS์์ ๊ฒ์๋ ๊ฐ์ค์น๋ก100๊ฑด์ฉ, ๋OS ํฉ๊ณ ๋ชจ๋ธ ํธ์ถ200ํ๋ฅผ ์ค์ ์คํํ์ต๋๋ค. ํฉ์ฑ catalog์ด๋ฉฐ Laya backboneยทGPUยทํ์ต ๋จ๊ณ๊ฐ ์๋๋๋ค. ๋ณ๋ CI์ native inference ๊ฒ์ฌ๋ฅผ ์ด100๊ฑด ์ํ์ ํฉ์ฐํ์ง ์์ต๋๋ค.
- HF ๋ฐ์ดํฐ ๊ณ ์ revision์14ํ์ผ, ์ด845,693๋ฐ์ดํธ๋ฅผ ์ ์ฒด SHA-256์ผ๋ก ๋ค์ ์ฝ์ด ๋์กฐํ์ต๋๋ค. pilot100-v1 ํ๊ทธ๋ฅผ ๋ณด์กดํฉ๋๋ค.
CI ์ฑ๊ณต์ ์ฝ๋ยท๊ฐ์ค์น ํธํ์ฑยท์ฌํ ๊ฒ์ฆ์ ๋๋ค. ์ค์ฌ์ฉ ํ์ง ์น์ธ์ ์๋๋๋ค. ์ ์ฅ์ README์ โCI ๊ฒ์ฆ ์คโ ๋ฌธ๊ตฌ๋ ์คํ ์ ์ ์์ฑ๋ ๊ธฐ๋ก์ด๋ฉฐ, ์ด ํ์ด์ง๋ ์ดํ ์๋ฃ๋ CI๋ฅผ ์ฐ๊ฒฐํฉ๋๋ค.
์ ์ฉ ๊ฒฝ๊ณ์ ๋ค์ ๊ฒ์
๊ธฐ๋ณธ readerยทcatalogยทrevision1์ ๋ช
์์ ์ธ ํฉ์ฑ fixture์
๋๋ค. ์ค์ native reader๋0์ด๋ฉฐ ์ค์ ๋ผ๋ฒจยท์ด๋ชจ์งยท์ํ๋ฅผ ์ค์นํ์ง ์์์ต๋๋ค. ๋ฎ์ ์ ์์์๋ missing/inactive ๋ผ๋ฒจ ์ง๋จ์ ๋ณด์กดํ๊ณ annotation_checked๋ฅผ ๋ถ๋ชจ๋ก ์ฌ์ฉํฉ๋๋ค. ์๋ณธ reader์ capability์ ํ์ผ๋ฟ์ด ๋ ์ํ ๊ณํ์ ๋ถ๋ฆฌํ๊ณ , ์ํ ํ๋ณด ํด์์ unchecked๋ก ๋จ๊น๋๋ค.
๋ค์์400๊ฐ ์ด์์ ์๋ก ๋ค๋ฅธ ์ ๋ฌด ๋ฌธ๋งฅ๊ณผ ์๋ฃ๋ฅผ ์ธ๊ธํ๋ ์ง๋ฌธยท๋ถ๋ถ ์๋ฃยท์คํ ์์ฒญยท์ธ์ฉ์ ๊ฒ์์ ๋๋ค. ์ค์ ์๋ฌธ์ private๊ฐ ๊ธฐ๋ณธ์ด๋ฉฐ ํ๊ฐ๋ ์์ฝยทํฉ๊ณ๋ ์ ๊ณต๊ฐ ํฉ์ฑ ์ฌํ๋ง ์ธ๋ถ์ ๊ณต๊ฐํฉ๋๋ค. ๊ฐ์ ์ฌ๊ฑด์ ๋ฐ๋ณตยท๋ฒ์ญ์ ๊ฐ์ family์ ๋ฌถ์ด ๋ ๋ฆฝ ์ํ๋ก ์ธ์ง ์์ต๋๋ค. ์ด100๊ฑด์ ์ด๋ฏธ ๋ ธ์ถ๋์ผ๋ฏ๋ก ๋ค์ ๋ชจ๋ธ ์ ํ์ ์ test๋ก ์ฌ์ฌ์ฉํ์ง ์์ต๋๋ค.
์ ์ฒด ๊ฒฐ๊ณผ ยท ์ธก์ ๋ฒ์ ยท ๊ณ ์ ๊ณํ ยท ์ด์155