Pilot100 Results KO - teamswyg/laya-tools GitHub Wiki

์ง„ํ–‰ยท์™„๋ฃŒ ๋ณด๊ณ ยท์งˆ๋ฌธ: ์ฒซ 100๊ฑด ๊ฐœ๋ฐœ ์‹œํ—˜ ๊ฒฐ๊ณผ

English ยท ๊ธฐ๋Šฅ ์•ˆ๋‚ด ยท ์•ž์„œ ์ •ํ•œ ์ ์šฉ ๋ฒ”์œ„

๋ณ„๋„๋กœ ์ž‘์„ฑํ•œ ํ•ฉ์„ฑ ๊ฐœ๋ฐœ ๋ฌธ์žฅ100๊ฐœ๋ฅผ ์‹ค์ œ ๊ฒŒ์‹œ๋œ Go ๊ฐ€์ค‘์น˜๋กœ ์ฒ˜๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค. Go v0.2๋Š”69/100, ๋ถ€๋ชจ v0.1์€31/100์ด์—ˆ์ง€๋งŒ, ์™„๋ฃŒ ๋ณด๊ณ ๋Š”10/25์˜€์Šต๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„์—์„œ ๊ฐ€์ค‘์น˜ยท์˜จ๋„ยท๊ธฐ์ค€์„ ๋ฐ”๊พธ๊ฑฐ๋‚˜ ์ƒˆ ๋ชจ๋ธ์„ ์„ ํƒํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ์‹ค์ œ Riido ์กฐํšŒยทํ‘œ์‹œ ์„ค์น˜ยท์ƒํƒœ ๋ณ€๊ฒฝ์€0์ž…๋‹ˆ๋‹ค.

์ง„ํ–‰ยท์™„๋ฃŒ ๋ณด๊ณ ยท์งˆ๋ฌธ์€ ๊ฐ25๊ฑด, ๋‹ค๋ฅธ ๋‹ค์„ฏ ์˜๋ฏธ๋Š” ๊ฐ5๊ฑด์ด๋ฉฐ ํ•œ๊ตญ์–ดยท์˜์–ด๋Š” ๊ฐ50๊ฑด์ž…๋‹ˆ๋‹ค. ๋ชจ๋‘ AI ์ž‘์„ฑ์ž์˜ ํ—ˆ๊ตฌ ๋ฌธ์žฅ๊ณผ ์˜๋ฏธ ์ฃผ์„์ž…๋‹ˆ๋‹ค. ๋…๋ฆฝ ์ธ๊ฐ„ ๊ฒ€์ˆ˜๋‚˜ ์‹ค์ œ ์ œํ’ˆ ์ •๋‹ต์ด ์•„๋‹ˆ๋ฉฐ ๊ณ ์œ  family100๊ฐœ๋„ ํ†ต๊ณ„์  ๋…๋ฆฝ์„ฑ์„ ๋ณด์žฅํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ด๋ฆ„ยท๋ฒˆํ˜ธยท๋ฒˆ์—ญ์œผ๋กœ ํ–‰ ์ˆ˜๋ฅผ ๋Š˜๋ฆฐ ์ž๋ฃŒ๋Š” ์•„๋‹™๋‹ˆ๋‹ค.

๊ฐ™์€ 100๊ฑด์˜ ๋น„๊ต

๋น„๊ต๊ตฐ ์ „์ฒด ์ •๋‹ต/100 ํ‘œ์‹œ ์ œ์•ˆ ์˜ฌ๋ฐ”๋ฅธ ์ œ์•ˆ ์ž˜๋ชป๋œ ์ œ์•ˆ
๊ฒŒ์‹œ Go v0.2 69 16 15 1
๋ถ€๋ชจ Go v0.1 31 7 5 2
๊ธฐ์กด ๊ทœ์น™ 35 22 19 3
speech-act ๊ทœ์น™ 44 31 28 3

๋ชจ๋ธ์€ ๊ธฐ์กด temperature์™€ confidence0.9ยทmargin0.05๋ฅผ ์œ ์ง€ํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทœ์น™์˜ one-hot ์ ์ˆ˜๋Š” ๋ณด์ •๋œ ํ™•๋ฅ ์ด ์•„๋‹™๋‹ˆ๋‹ค. ์ „์ฒด ์ •๋‹ต ์ˆ˜์™€ ์ œ์•ˆ ๋ฒ”์œ„๋Š” ๋ณ„๋„ ๊ฒฐ๊ณผ์ด๋ฉฐ, ๊ทœ์น™์ด ๋” ๋งŽ์€ ๋ฌธ์žฅ์„ ์ œ์•ˆํ–ˆ๋‹ค๊ณ  ๋ชจ๋ธ๋ณด๋‹ค ์ •ํ™•ํ•˜๋‹ค๊ณ  ๊ฒฐ๋ก  ๋‚ด๋ฆฌ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

v0.2์˜ ํ‘œ์‹œ ์˜๋ฏธ ๋ถ„๋ฅ˜ ์ •๋‹ต/ํ•ด๋‹น25๊ฑด ์˜ฌ๋ฐ”๋ฅธ ์ œ์•ˆ/์ƒ์„ฑ๋œ ์ œ์•ˆ
์ง„ํ–‰ ๋ณด๊ณ  21/25 6/6
์™„๋ฃŒ ๋ณด๊ณ  10/25 3/4
์งˆ๋ฌธ 18/25 6/6

์ „์ฒด ์ •๋‹ต๋ฅ 69%, ์ œ์•ˆ ์ •๋ฐ€๋„15/16, ์˜ฌ๋ฐ”๋ฅธ ํ‘œ์‹œ coverage15/75(20%)๋Š” ๋ถ„๋ชจ๊ฐ€ ๋‹ค๋ฆ…๋‹ˆ๋‹ค. ํ•œ๊ตญ์–ด๋Š”38/50, ์˜์–ด๋Š”31/50์ž…๋‹ˆ๋‹ค. ์•ž์„  ํ•ฉ์„ฑ40๊ฑด์˜85%๋ฅผ ์ด๋ฒˆ100๊ฑด์—์„œ ์œ ์ง€ํ–ˆ๋‹ค๊ณ  ์ฃผ์žฅํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๋†’์€ ์ ์ˆ˜์—์„œ๋„ ํ‹€๋ฆฐ ์™„๋ฃŒ ๋ณด๊ณ 

๊ณต๊ฐœ ํ•ฉ์„ฑ ์‚ฌ๋ก€์˜ ์›๋ฌธ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

Do completed checks have to be repeated after only the description changes?

์ •๋‹ต ์ฃผ์„์€ ์งˆ๋ฌธ์ธ๋ฐ v0.2๋Š” completion_report๋ฅผ 0.98825(์•ฝ98.8%) ์ ์ˆ˜๋กœ ์ œ์•ˆํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ถ€๋ชจ๋„ ๊ฐ™์€ ์˜ค๋ฅ˜๋ฅผ ๋ƒˆ์Šต๋‹ˆ๋‹ค. ์›๋ฌธยท์ฃผ์„ยท์‹คํŒจ๋Š” ๊ทธ๋Œ€๋กœ ๋ณด์กดํ–ˆ์Šต๋‹ˆ๋‹ค. completion_report๋Š” ์™„๋ฃŒ๋๋‹ค๊ณ  ์“ด ๋ฌธ์žฅ์„ ๋ถ„๋ฅ˜ํ•˜๋Š” ์˜๋ฏธ์ด๋ฉฐ ์‹ค์ œ ์‹คํ–‰ ์„ฑ๊ณต์ด๋‚˜ ์ „์ฒด ์—…๋ฌด ์™„๋ฃŒ์˜ ์ฆ๋ช…์ด ์•„๋‹™๋‹ˆ๋‹ค.

8๊ฐœ ์˜๋ฏธ์˜ NLL์€2.9244โ†’0.9607, Brier๋Š”1.0299โ†’0.4471์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๋ถ€๋ชจ์™€ ์ž์‹์˜ temperature๋Š”0.7๊ณผ0.9์ด๋ฏ€๋กœ ๋ณด์ • ํšจ๊ณผ๋ฅผ ํฌํ•จํ•œ ๋น„๊ต์ž…๋‹ˆ๋‹ค. ์ „์ฒด8๊ฐœ ํ™•๋ฅ ๊ณผ confusion์„ ์œ ์ง€ํ•˜๊ณ , ์„ธ ํ‘œ์‹œ ๋ฐ–์˜ ๋‹ค์„ฏ ์˜๋ฏธ๋ฅผ ํ•ฉํ•œ none์€ ๋ณ„๋„ ์†์‹ค ์ง„๋‹จ์—๋งŒ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ์ธก์„ ์„ธ ์˜๋ฏธ๋กœ ์žฌ์ •๊ทœํ™”ํ•˜๊ฑฐ๋‚˜ ์ฐจ์„ ์˜ ํ—ˆ์šฉ ์˜๋ฏธ๋กœ ๋ฐ”๊พธ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๊ฐ™์€ ๊ฒฐ๊ณผ๋ฅผ ๋งŒ๋“œ๋Š” ๋” ์ž‘์€ ์‹คํ–‰ ํŒŒ์ผ

๊ฐ™์€100๊ฑด์„ ๋‘ ๋ณ„๋„ macOS ํ”„๋กœ์„ธ์Šค์—์„œ ๋ฐ˜๋ณตํ•ด wrapper ๋น„์šฉ์„ ๋น„๊ตํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋“  ํ™•๋ฅ ยท์ง€ํ‘œยท์ œ์•ˆยทmetadata๋Š” ์ •ํ™•ํžˆ ๊ฐ™์•˜์Šต๋‹ˆ๋‹ค. ์ด ๋ฐ˜๋ณต์€ ์ƒˆ ๋…๋ฆฝ ์‚ฌ๋ก€๋ฅผ ์ถ”๊ฐ€ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

ํ•œ ๋ฒˆ์˜4๋น„๊ต๊ตฐ ์ฒ˜๋ฆฌ ๊ณต์šฉ riidolaya ์ „์šฉ riido-statehint-pilot
๋ฐ”์ด๋„ˆ๋ฆฌ ํŒŒ์ผ ํฌ๊ธฐ 11,875,234B(์•ฝ11.88MB) 4,390,322B(์•ฝ4.39MB)
์ตœ๋Œ€ OS RSS 20,463,616B 12,566,528B
JSON ์ธ์ฝ”๋”ฉ ์ „ Go heap ํ‘œ๋ณธ 1,892,600B 1,650,904B

๊ฐ ํ”„๋กœ์„ธ์Šค๋Š” ๋‘ ๋ชจ๋ธ์„100๋ฒˆ์”ฉ, ๋‘ ๊ทœ์น™์„100๋ฒˆ์”ฉ ํ˜ธ์ถœํ–ˆ์Šต๋‹ˆ๋‹ค. ํŒŒ์ผ ์ฝ๊ธฐยท๋ชจ๋ธ ๋กœ๋”ฉยทJSONยทํ•ฉ์„ฑ catalogยท๋ณด๊ณ ์„œ ์ฒ˜๋ฆฌ๋ฅผ ํฌํ•จํ•œ ํ•œ ๋ฒˆ์˜ ์‹คํ–‰์ž…๋‹ˆ๋‹ค. ์‹ค์ œ ๋„คํŠธ์›Œํฌ ์กฐํšŒยท์žฅ๊ธฐ ์šด์˜ยทGPU๋Š” ํฌํ•จํ•˜์ง€ ์•Š์œผ๋ฉฐ Go heap์„ RSS์— ๋”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ข์€ ๋ถ„๋ฅ˜ ๊ตฌ๊ฐ„์˜ ์‹œ๊ฐ„์„ ์ „์ฒด ์š”์ฒญ ์ฒ˜๋ฆฌ๋Ÿ‰์œผ๋กœ ํ™•๋Œ€ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๊ฐ™์€ ํŒจํ‚ค์ง€๋Š” riidolaya state-hint-pilot ๋˜๋Š” ์ „์šฉ ๋ช…๋ น์œผ๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ช…์‹œ์ ์ธ ๋กœ์ปฌ ๊ฐ€์ค‘์น˜๋ฅผ ์ฝ๊ณ  checksumยท์ž…๋ ฅยท์˜ˆ์‚ฐ์„ ํ™•์ธํ•˜๋ฉฐ ๊ธฐ์กด ๊ฒฐ๊ณผ ํŒŒ์ผ์„ ๋ฎ์–ด์“ฐ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์‹คํ–‰ ์˜ˆ์™€ ์˜ต์…˜์„ ์ฐธ๊ณ ํ•˜์„ธ์š”. ์‹ค์ œ ๋ฐ์ดํ„ฐ์˜ ๋ณธ๋ฌธ๊ณผ ๋ณด๊ณ ์„œ๋Š” ๊ธฐ๋ณธ private์ž…๋‹ˆ๋‹ค.

์†Œ์ŠคยทCIยทHub ๊ฒŒ์‹œ ํ™•์ธ

  • ์†Œ์Šค6a4c4f9์˜ CI37422306314๋Š” LinuxยทmacOSยทsecretsยทquality ๋ชจ๋‘ ์„ฑ๊ณตํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ด‡ ๋ณ‘ํ•ฉ e8ffd580์˜ ์†Œ์Šค tree๋Š”474397f3์œผ๋กœ ๋™์ผํ•ฉ๋‹ˆ๋‹ค.
  • ์ด ์‹œํ—˜์˜ Go CPU ๋‹จ๊ณ„๋Š” ๊ฐOS์—์„œ ๊ฒŒ์‹œ๋œ ๊ฐ€์ค‘์น˜๋กœ100๊ฑด์”ฉ, ๋‘OS ํ•ฉ๊ณ„ ๋ชจ๋ธ ํ˜ธ์ถœ200ํšŒ๋ฅผ ์‹ค์ œ ์‹คํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ํ•ฉ์„ฑ catalog์ด๋ฉฐ Laya backboneยทGPUยทํ•™์Šต ๋‹จ๊ณ„๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค. ๋ณ„๋„ CI์˜ native inference ๊ฒ€์‚ฌ๋ฅผ ์ด100๊ฑด ์‹œํ—˜์— ํ•ฉ์‚ฐํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • HF ๋ฐ์ดํ„ฐ ๊ณ ์ • revision์˜14ํŒŒ์ผ, ์ด845,693๋ฐ”์ดํŠธ๋ฅผ ์ „์ฒด SHA-256์œผ๋กœ ๋‹ค์‹œ ์ฝ์–ด ๋Œ€์กฐํ–ˆ์Šต๋‹ˆ๋‹ค. pilot100-v1 ํƒœ๊ทธ๋ฅผ ๋ณด์กดํ•ฉ๋‹ˆ๋‹ค.

CI ์„ฑ๊ณต์€ ์ฝ”๋“œยท๊ฐ€์ค‘์น˜ ํ˜ธํ™˜์„ฑยท์žฌํ˜„ ๊ฒ€์ฆ์ž…๋‹ˆ๋‹ค. ์‹ค์‚ฌ์šฉ ํ’ˆ์งˆ ์Šน์ธ์€ ์•„๋‹™๋‹ˆ๋‹ค. ์ €์žฅ์†Œ README์˜ โ€œCI ๊ฒ€์ฆ ์ค‘โ€ ๋ฌธ๊ตฌ๋Š” ์‹คํ–‰ ์ „์— ์ž‘์„ฑ๋œ ๊ธฐ๋ก์ด๋ฉฐ, ์ด ํŽ˜์ด์ง€๋Š” ์ดํ›„ ์™„๋ฃŒ๋œ CI๋ฅผ ์—ฐ๊ฒฐํ•ฉ๋‹ˆ๋‹ค.

์ ์šฉ ๊ฒฝ๊ณ„์™€ ๋‹ค์Œ ๊ฒ€์ˆ˜

๊ธฐ๋ณธ readerยทcatalogยทrevision1์€ ๋ช…์‹œ์ ์ธ ํ•ฉ์„ฑ fixture์ž…๋‹ˆ๋‹ค. ์‹ค์ œ native reader๋Š”0์ด๋ฉฐ ์‹ค์ œ ๋ผ๋ฒจยท์ด๋ชจ์ง€ยท์ƒํƒœ๋ฅผ ์„ค์น˜ํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ๋‚ฎ์€ ์ ์ˆ˜์—์„œ๋„ missing/inactive ๋ผ๋ฒจ ์ง„๋‹จ์„ ๋ณด์กดํ•˜๊ณ  annotation_checked๋ฅผ ๋ถ„๋ชจ๋กœ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์›๋ณธ reader์˜ capability์™€ ํŒŒ์ผ๋Ÿฟ์ด ๋ˆ ์ƒํƒœ ๊ณ„ํš์„ ๋ถ„๋ฆฌํ•˜๊ณ , ์ƒํƒœ ํ›„๋ณด ํ•ด์„์€ unchecked๋กœ ๋‚จ๊น๋‹ˆ๋‹ค.

๋‹ค์Œ์€400๊ฐœ ์ด์ƒ์˜ ์„œ๋กœ ๋‹ค๋ฅธ ์—…๋ฌด ๋ฌธ๋งฅ๊ณผ ์™„๋ฃŒ๋ฅผ ์–ธ๊ธ‰ํ•˜๋Š” ์งˆ๋ฌธยท๋ถ€๋ถ„ ์™„๋ฃŒยท์‹คํ–‰ ์š”์ฒญยท์ธ์šฉ์˜ ๊ฒ€์ˆ˜์ž…๋‹ˆ๋‹ค. ์‹ค์ œ ์›๋ฌธ์€ private๊ฐ€ ๊ธฐ๋ณธ์ด๋ฉฐ ํ—ˆ๊ฐ€๋œ ์š”์•ฝยทํ•ฉ๊ณ„๋‚˜ ์ƒˆ ๊ณต๊ฐœ ํ•ฉ์„ฑ ์žฌํ˜„๋งŒ ์™ธ๋ถ€์— ๊ณต๊ฐœํ•ฉ๋‹ˆ๋‹ค. ๊ฐ™์€ ์‚ฌ๊ฑด์˜ ๋ฐ˜๋ณตยท๋ฒˆ์—ญ์€ ๊ฐ™์€ family์— ๋ฌถ์–ด ๋…๋ฆฝ ์ƒ˜ํ”Œ๋กœ ์„ธ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ด100๊ฑด์€ ์ด๋ฏธ ๋…ธ์ถœ๋์œผ๋ฏ€๋กœ ๋‹ค์Œ ๋ชจ๋ธ ์„ ํƒ์˜ ์ƒˆ test๋กœ ์žฌ์‚ฌ์šฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ „์ฒด ๊ฒฐ๊ณผ ยท ์ธก์ • ๋ฒ”์œ„ ยท ๊ณ ์ • ๊ณ„ํš ยท ์ด์Šˆ155