Week16 Day3 - ai-esg/our-history GitHub Wiki

ํŒ€ NLP 11์กฐ Week16 Day3

๋ชฉ์ฐจ

์ผ์ž

  • 2021.11.17 ์ˆ˜

ํŒ€์›

  • ๋ฌธ์„์•”_T2075
  • ๋ฐ•๋งˆ๋ฃจ์ฐฌ_T2078
  • ๋ฐ•์•„๋ฉ˜_T2090
  • ์šฐ์›์ง„_T2137
  • ์œค์˜ํ›ˆ_T2142
  • ์žฅ๋™๊ฑด_T2185
  • ํ™ํ˜„์Šน_T2250

์ฃผ๊ฐ„ ์ผ์ •

์ž‘์—… ํ• ๋‹น

1:(0~352)

2:(353~706)

3:(707~1060)

4:(1061~1414)

5:(1415~1768)

6:(1769~2122)

7:(2123~2473)

    1. ๋ฌธ์„์•” 1 2 3 4 5
    1. ๋ฐ•๋งˆ๋ฃจ์ฐฌ 2 3 4 5 6
    1. ๋ฐ•์•„๋ฉ˜ 3 4 5 6 7
    1. ์šฐ์›์ง„ 4 5 6 7 1
    1. ์œค์˜ํ›ˆ 5 6 7 1 2
    1. ์žฅ๋™๊ฑด 6 7 1 2 3
    1. ํ™ํ˜„์Šน 7 1 2 3 4

ํ”ผ์–ด์„ธ์…˜

๋ฐ์ดํ„ฐ์ œ์ž‘์‹œ ๋ฐ์ดํ„ฐ์…‹ ๊ตฌ์„ฑ

  • train, validation, test set์˜ label๋ณ„ ๋น„์œจ์„ ๋ชจ๋‘ ๋™์ผํ•˜๊ฒŒ ํ•˜์—ฌ 8:1:1๋กœ ๋‚˜๋ˆˆ๋‹ค.
  • ๋™์ผ ๋ฌธ์žฅ์— ๋Œ€ํ•ด์„œ๋Š” ๋‹ค๋ฅธ ๋ฐ์ดํ„ฐ์…‹์— ๋‹ด๊ธฐ์ง€ ์•Š๋„๋ก ํ•œ๋‹ค? -> train์œผ๋กœ ๋ชจ๋‘ ํฌํ•จ

ํ”„๋กœ์ ํŠธ

TODO

์‚ฌ์šฉ์ž : ๋ฌธ์žฅ ->

train input

  • ๋ฆฌ๋ทฐ๋ฅผ ๊ทธ๋Œ€๋กœ ์‚ฌ์šฉํ•˜๋Š”๊ฒƒ๋„ ๊ดœ์ฐฎ์„๋“ฏ..? (๋ผ๋ฒจ์€ ์–ด๋–ป๊ฒŒ ๋ ๊นŒ์š”?) ์œ„์น˜(์ •๋‹ต)
    • ๋ฆฌ๋ทฐ (1000์ž) -> [input,(50์ž)-์œ„์น˜(๋ผ๋ฒจ)] ๋ธ”๋กœ๊ทธ (๋ฌธ์žฅ๋ณ„๋กœ ๋‹ค ์งค๋ผ๋ฒ„๋ฆฌ๊ธฐ)
  • ๋ฌ˜์‚ฌํ•˜๋Š” ๊ธ€์„ ์ƒ์„ฑ
  • ์ง์ ‘ ์ˆ˜์ •

input

๋ฌธ์žฅ -> ์ธ์ฝ”๋”ฉ ๋ฒกํ„ฐ vs ์–ด๋–ค ๊ณผ์ • -> ๋ฌธ์„œ -> ์ธ์ฝ”๋”ฉ ๋ฒกํ„ฐ

output ์ง€๋ช…,๋ฌธ์„œ

๋ฐ์ดํ„ฐ

  1. OPENAPI ์—์„œ ๋ฐ์ดํ„ฐ ๊ฐ€์ ธ์˜ค๊ธฐ ๋ฐ ์ „์ฒ˜๋ฆฌ

    • ๊ทธ์™ธ ์ •๋ณด๋„ ํฌํ•จ
    • ์ฃผ์†Œ ์ •๋ณด ํ•„์š”
      • ์œ„์น˜ ์ง€๋ช…
      • ์œ„์น˜ ๋ฆฌ์ŠคํŠธ
  2. ๋ธ”๋กœ๊ทธ ๋ฆฌ๋ทฐ ๊ด€๋ จ ์ „์ฒ˜๋ฆฌ ๋ฐฉ์‹ ์ค€๋น„ (API ์—†์Œ ๊ตฌ๊ธ€ ์ œ์™ธ)

    • ๋„ค์ด๋ฒ„ ์ง€๋„ ๋ฆฌ๋ทฐ
      • ์ œ๋ชฉ์—์„œ ์ง€๋ช… ํ•„ํ„ฐ๋ง
      • ๋ณธ๋ฌธ ์ฒ˜๋ฆฌ์— ๋Œ€ํ•ด์„œ๋Š” ๋…ผ์˜๊ฐ€ ๋” ํ•„์š”
    • ๊ตฌ๊ธ€ ์ง€๋„ ๋ฆฌ๋ทฐ
  3. ๋ฆฌ๋ทฐ ์ •๋ณด ์ €์ž‘๊ถŒ ํ™•์ธ

์„œ๋น„์Šค

  • ์ง€์—ญ๋ช… ๋‚˜์˜ค๋ฉด API -> ๋งํฌ

  • ์ฐจํ›„ ํ”„๋กœ์ ํŠธ ๊ด€๋ จ์€ ํ”„๋กœ์ ํŠธ ๋ฌธ์„œ์—๋„ ์ค‘๋ณตํ•ด์„œ ์˜ฌ๋ฆฌ๋„๋ก ํ•œ๋‹ค.

ํŒ€ํ”„๋กœ์ ํŠธ ์•„์ด๋””์–ด

๋ฐ์ดํ„ฐ ์‹ ์ฒญ ์ค‘

  1. ๋ฒ”์ฃ„์— ๋Œ€ํ•œ ํŒ๊ฒฐ ์˜ˆ์ธก ๋ฐ ๊ด€๋ จ ํŒ๋ก€ ์ž๋ฃŒ
  1. ๋ฌธ์žฅ์œผ๋กœ ๊ฐ€๊ณ  ์‹ถ์€ ๊ณณ์„ ๋ฌ˜์‚ฌํ•˜๊ณ , ์ถ”์ฒœํ•ด์ฃผ๋Š” ์„œ๋น„์Šค
    • Tour API 3.0

    • ์—ฌํ–‰์ง€ ์ •๋ณด, ๋ฆฌ๋ทฐ๋ฅผ ํ™œ์šฉ

    • ์—ฌํ–‰์ง€ ๋ฆฌ์ŠคํŠธ๊ฐ€ ํ•„์š”ํ•จ!

    • input (์žฅ์†Œ์— ๋Œ€ํ•œ ๋ฌ˜์‚ฌ๋งŒ ํ•ด์ฃผ์„ธ์š”)

      • ์žฅ์†Œ๋ฅผ ๋ฌ˜์‚ฌํ•ด ์ฃผ์„ธ์š” ??
        • XXX
      • ๋ˆ„๊ตฌ๋ž‘ ๊ฐ€์‹œ๋‚˜์š” ??
        • XXX
      • ๊ธฐ๊ฐ„์€ ์–ผ๋งˆ๋‚˜ ์ƒ๊ฐํ•˜๋‚˜์š”?

ํ”„๋กœ์ ํŠธ (๊ฐ€์ œ:์—ฌํ–‰๊ฐ€์ž)

์ž…๋ ฅ : ์ง€๊ธˆ ์ฏค ~ ๊ทผ์ฒ˜์— ๋‹จํ’ ๊ตฌ๊ฒฝ ๊ฐ€๊ณ  ์‹ถ์–ด. ์ถœ๋ ฅ : ๋Œ€๋‘”์‚ฐ๊ตญ๋ฆฝ๊ณต์› ~๋ด‰ ๋‹ค๋ฆฌ ๊ดœ์ฐฎ์•„์š”. ์ง€๊ธˆ์€ ๋‹จํ’ ๊ตฌ๊ฒฝ์ด ๋ถˆ๊ฐ€๋Šฅํ•ด์š”? ์ž…๋ ฅ : ์ถœ๋ ฅ :

๋ชจ๋ธ

๋ฐ์ดํ„ฐ ์ˆ˜์ง‘
  • google API

    • ์„ธ๋ถ€์ ์ธ ๊ด€๊ด‘์ง€
  • ๋„ค์ด๋ฒ„ ๋ธ”๋กœ๊ทธ

    • ex) ์—ฌ์ˆ˜ ๊ด€๋ จ ์ •๋ณด ์—†์ŒX (๋„ค์ด๋ฒ„ ์ง€๋„ ๋ฆฌ๋ทฐ ๊ธฐ์ค€)
    • ex) ํ•ด์ˆ˜์š•์žฅ ์ด๋Ÿฐ์‹
DATP

์—ฌํ–‰ ๋„๋ฉ”์ธ ๋ฐ์ดํ„ฐ

ํ›ˆ๋ จ ๊ณ„ํš
๋ฐ์ดํ„ฐ ํ˜•์‹
  • dataset์— ๋“ค์–ด๊ฐˆ feature

์„œ๋น„์Šค

ํ”Œ๋žซํผ (Web, App ๋“ฑ๋“ฑ)
  • ๊ฐ€๋Šฅํ•œ ๊ฐ„๋‹จํ•˜๊ฒŒ
  • API๋งŒ์œผ๋กœ ๊ตฌํ˜„ํ•˜๋Š” ๊ฒƒ๋„ ๋ฐฉ๋ฒ•.
์‚ฌ์šฉ์ž ๊ด€๋ จ
  • ๋ฌด์—‡์„ ์ž…๋ ฅํ•˜๋Š”์ง€
  • ๋ˆ„๊ฐ€ ์‚ฌ์šฉํ•˜๋Š”์ž
  • ์–ธ์ œ ์‚ฌ์šฉํ•˜๋Š”์ง€
  • ์‚ฌ์šฉ์ž๊ฐ€ ์›ํ•˜๋Š” ๊ฑด ๋ญ˜๊นŒ?