쉬엄쉬엄블로그

7월 10일 OT를 시작으로 참가한 AI 경진대회가 마무리되고 8월 31일 수료식이 진행되었습니다. 수료식은 한양대학교 현대엔지비(정몽구 미래자동차연구센터)에서 진행되었습니다. 수료식 전에 사전 과제로 AI 경진대회 활동 포트폴리오를 작성하여 제출했습니다. 수료식 일정은 다음과 같았습니다. 활동비 지급을 위한 필수서류 작성 및 보안 점검 서류를 작성하면서 HMG 컨퍼런스, 현대자동차 연구장학제도(연구장학생 모집)에 대해 설명해주셨습니다. HMG 컨퍼런스는 10월? 11월쯤 개최될 예정이라고 합니다. HSAT 정기 코딩 인증평가는 11월쯤 실시된다고 합니다. (Lv. 3를 취득하면 현대자동차 연구장학제도의 코딩테스트를 면제 받을 수 있다고 합니다.) 현대자동차 x 서울대학교 계약학과 모집과 연구장학생 모집..

이 색깔은 주석이라 무시하셔도 됩니다. Linking MRC and Retrieval Introduction to ODQA Linking MRC and Retrieval : Open-domain Question Answering (ODQA) MRC : 지문이 주어진 상황에서 질의응답 ODQA : 지문이 따로 주어지지 않음. 방대한 World Knowledge에 기반해서 질의응답 Ex) Modern search engines : 연관 문서 뿐만 아니라 질문의 답을 같이 제공 History of ODQA Text retrieval conference(TREC) - QA Tracks (1999-2007) : 연관문서만 반환하는 information retrieval(IR)에서 더 나아가서, short answ..

이 색깔은 주석이라 무시하셔도 됩니다. Passage Retrieval - Scailing Up Passage Retrieval and Similarity Search 복습 Retrieval with dense embedding 인퍼런스 : Passage와 query를 각각 임베딩한 후 query로부터 거리가 가까운 순서대로 passage에 순위를 매김 MIPS(Maximum Inner Product Search) 주어진 질문(query) 벡터 q에 대해 Passage 벡터 v들 중 가장 질문과 관련된 벡터를 찾아야함 여기서 관련성은 내적(inner product)이 가장 큰 것 4, 5강에서 사용한 검색 방법 : brute-force(exhaustive) search 저장해둔 모든 Sparse/Dens..

이 색깔은 주석이라 무시하셔도 됩니다. Passage Retrieval-Dense Embedding Dense Embedding Introduction to Dense Embedding Passage Embedding 구절(Passage)을 벡터로 변환하는 것 Sparse Embedding TF-IDF 벡터는 Sparse하다. 0이 0이 아닌 값보다 많다 Limitations of sparse embedding 차원의 수가 매우 크다 → compressed format으로 극복 가능 유사성을 고려하지 못한다 Dense Embedding이란? Complementray to sparse representations by design 더 작은 차원의 고밀도 벡터 (length = 50-1000) 각 차원이 특..

이 색깔은 주석이라 무시하셔도 됩니다. Passage Retrieval-Sparse Embedding Sparse Embedding Introduction to Passage Retrieval Passage Retrieval 질문(query)에 맞는 문서(passage)를 찾는 것 Passage Retrieval with MRC Open-domain Question Answering : 대규모의 문서 중에서 질문에 대한 답을 찾기 Passage Retrieval과 MRC를 이어서 2-Stage로 만들 수 있음 Overview of Passage Retrieval Query와 Passage를 임베딩한 뒤 유사도로 랭킹을 매기고, 유사도가 가장 높은 Passage를 선택함 Passage Embedding a..

이 색깔은 주석이라 무시하셔도 됩니다. Generation-based MRC Generation-based MRC Generation-based MRC 문제 정의 MRC 문제를 푸는 방법 Extraction-based mrc : 지문(context)내 답의 위치를 예측 ⇒ 분류 문제 (classification) Generation-based mrc : 주어진 지문과 질의(question)를 보고, 답변을 생성 ⇒ 생성 문제(generation) Generation-based MRC 평가 방법 동일한 extractive answer datasets ⇒ Extraction-based MRC와 동일한 평가 방법을 사용(recap) Extract Match(EM) Score EM = 1 when (Charac..