6개 문서가 "심화" 태그에 분류되었습니다

청킹·임베딩·벡터 유사도·ANN 검색·리랭킹·컨텍스트 주입까지 RAG가 자료를 가져와 반영하는 방식을 기술적으로 상세히 설명

logits에서 다음 토큰을 고르는 방식 — temperature, top-k, top-p(nucleus), repetition penalty, greedy·beam search를 기술적으로 설명

Q·K·V, Scaled Dot-Product Attention, 멀티헤드, 인과 마스킹, 트랜스포머 블록까지 LLM의 계산 방식을 기술적으로 상세히 설명

KV 캐시, 양자화, 배칭, FlashAttention, GQA/MQA 등 LLM을 빠르고 싸게 서빙하기 위한 기술을 설명

LLM이 글을 토큰으로 쪼개는 방식(BPE·WordPiece·SentencePiece), 어휘집 구성, 한국어가 토큰을 더 쓰는 이유를 기술적으로 설명

전체 파인튜닝과 PEFT(LoRA·QLoRA)의 동작 원리, 어댑터가 가중치를 저차원으로 갱신하는 방식을 기술적으로 설명