쉬엄쉬엄블로그

이 색깔은 주석이라 무시하셔도 됩니다. Passage Retrieval-Dense Embedding Dense Embedding Introduction to Dense Embedding Passage Embedding 구절(Passage)을 벡터로 변환하는 것 Sparse Embedding TF-IDF 벡터는 Sparse하다. 0이 0이 아닌 값보다 많다 Limitations of sparse embedding 차원의 수가 매우 크다 → compressed format으로 극복 가능 유사성을 고려하지 못한다 Dense Embedding이란? Complementray to sparse representations by design 더 작은 차원의 고밀도 벡터 (length = 50-1000) 각 차원이 특..

이 색깔은 주석이라 무시하셔도 됩니다. Passage Retrieval-Sparse Embedding Sparse Embedding Introduction to Passage Retrieval Passage Retrieval 질문(query)에 맞는 문서(passage)를 찾는 것 Passage Retrieval with MRC Open-domain Question Answering : 대규모의 문서 중에서 질문에 대한 답을 찾기 Passage Retrieval과 MRC를 이어서 2-Stage로 만들 수 있음 Overview of Passage Retrieval Query와 Passage를 임베딩한 뒤 유사도로 랭킹을 매기고, 유사도가 가장 높은 Passage를 선택함 Passage Embedding a..