본문 바로가기

쉬엄쉬엄블로그

검색하기
쉬엄쉬엄블로그
프로필사진 쉬엄쉬엄블로그

  • 분류 전체보기 (149)
    • 일상 및 잡다 (18)
    • 코딩 (8)
    • AI (6)
    • 부스트캠프 AI Tech 4기 (115)
Guestbook
Notice
Recent Posts
Recent Comments
Link
250x250
«   2026/02   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
Tags
  • Bart
  • RNN
  • Attention
  • nlp
  • N21
  • GPT
  • pyTorch
  • Bert
  • 딥러닝
  • dataset
  • KLUE
  • 현대자동차
  • Optimization
  • matplotlib
  • 데이터 시각화
  • AI 경진대회
  • mrc
  • 2023 현대차·기아 CTO AI 경진대회
  • AI Math
  • 데이터 구축
  • ODQA
  • seaborn
  • Transformer
  • N2N
  • word2vec
  • Ai
  • 기아
  • Data Viz
  • passage retrieval
  • Self-attention
more
Archives
Today
Total
관리 메뉴
  • 글쓰기
  • 방명록
  • RSS
  • 관리

목록Tokenizer (1)

쉬엄쉬엄블로그

(NLP 기초대회) N21 - Sentence Classification 실습

이 색깔은 주석이라 무시하셔도 됩니다. N21 (Sentence Classification) 실습 Hugginface from_pretrained() 선학습된 encoder model, tokenizer를 불러오는 함수 # https://huggingface.co/docs/transformers/model_doc/auto#transformers.AutoTokenizer from transformers import AutoTokenizer # transformers.AutoTokenizer의 from_pretrained() 함수 실습 # 많은 Tokenizer 가 있으나 이번 실습에서는 3가지 정도를 확인해본다. klue_tokenizer = AutoTokenizer.from_pretrained('..

부스트캠프 AI Tech 4기 2023. 7. 24. 11:46
이전 Prev 1 Next 다음

Blog is powered by kakao / Designed by Tistory

티스토리툴바