2021 10 20 - KR-HappyFace/meetup-logs GitHub Wiki

Ice Breaking

• 맥북 새로 나온거 좋더라... 뽐뿌
• "맥북은 개발자에게 있어 최고의 투자입니다"
• Focal Loss는 성능이 확실하다!
• KLUE-RE & Image Classification Repository Public으로 전환됨, Fork ㄱㄱ

진행 상황

• 현수: DPR 논문 읽고 Retrieval 실험 진행 중

• 준홍: 실습코드 따라 진행 중

• 세현: Retrieval쪽 작업 중

• 재영: DPR Retrieval, batch에서 비슷한 question, passage pair로 학습 난이도 향상시키는 실험 중

• 영진: random masking 실험 진행 중: https://github.com/boostcampaitech2/mrc-level2-nlp-15/tree/snoop

• special token "#" 토큰을 사용하면 잘못 인식하는 것으로 보임

• Test dataset에는 Question만 있고, Wiki 에서 관련된 passage 찾아와서 정답 찾아내는 과정

• 실험 진행상황 공유는 jupyter 노트북으로 하는 것이 진행상황 파악에 도움이 됨

• https://github.com/stanford-futuredata/ColBERT

• BM25 Transformer는 무엇인가? https://github.com/arosh/BM25Transformer

• BM25는 종류가 많다

  • https://github.com/dorianbrown/rank_bm25

• Question generation을 통한 augmentation

  • 성능에 좋은 영향이 있을 지는 모르겠음 -> Bias 문제?
  • SQuAD에서 dense retrieval보다 sparse retrieval이 더 좋은 이유

• PORORO 학습된 모델: https://kakaobrain.github.io/pororo/tagging/mrc.html

• khaiii : https://github.com/kakao/khaiii

진행할 실험

• To-do list: https://github.com/boostcampaitech2/mrc-level2-nlp-15/blob/main/README.md

Baseline code 설명 영상

• https://drive.google.com/file/d/1an-huXoMuaJIPFh-AKvSmCfOEMKP7Tya/view?usp=sharing