2021 10 21 - KR-HappyFace/meetup-logs GitHub Wiki

Ice Breaking

• 건강을 챙깁시다
• 웹툰: 웹툰 얼굴 추출 like RetinaFace
• 연주님 생일!!! (이브)

Experiments

• Pororo MRC
  • top-k = 1일때는 Baseline보다 안나옴
  • k값 늘려서 실험
  • passage 랑 question이랑 mapping해서 들어감
  • text length도 제각각이라 비효율적인것 같음
  • Retrieval에 대한 점수가 전혀 고려되지 않음!
  • k= 100 보다 k=50이 더 좋음
  • Fine tuning 가능
  • FAISS 적용하면?
  • Huggingface issue: version 0.0.19으로, mecab 활용할 때 GCC 문제

# pip install huggingface-hub==0.0.19
# pip install pororo

pororo mrc
# apt-get install build-essential -y
# pip install python-mecab-ko

• BM25:

  • 다양한 방법론 중에 어떤게 우리 데이터셋에 적합할지 테스트 필요할듯
  • 여러가지 테스트 가능한 코드 작성 예정

• Elastic Search:

  • Data가 아주 많지는 않아서 꼭 필요한가?
  • tokenizer 다른 것을 쓰기 때문에 결정적인 차이를 만들수도