수업 중 자주 쓰는 개념
용어
수업 중 자주 쓰는 개념
- Transformer
self-attention을 중심으로 문장 안 관계를 병렬적으로 계산하도록 만든 구조. - RLHF
사람의 선호 피드백을 이용해 모델이 지시와 답변 형식에 더 잘 맞도록 조정하는 학습 흐름. - RAG
모델이 답하기 전에 외부 문서를 검색해 근거와 최신성을 보완하는 설계. - 환각
모델이 그럴듯하지만 사실과 맞지 않는 답을 생성하는 현상. - 공개 가중치
모델 파라미터가 공개되어 내려받아 실행하거나 미세조정할 수 있는 상태. 데이터와 학습 절차까지 모두 공개된다는 뜻은 아니다. - Reasoning model
답변 전에 더 긴 추론이나 탐색 시간을 쓰도록 설계된 모델 계열.