llm 썸네일형 리스트형 컨텍스트 윈도우란? AI가 한 번에 기억하는 범위 이해하기 컨텍스트 윈도우란 무엇인가?컨텍스트 윈도우(Context Window)는 AI 모델이 한 번에 참고할 수 있는 대화·문서의 최대 범위를 뜻합니다. 쉽게 말해 AI가 답을 만들 때 '지금 눈에 들어와 있는 글의 양'이라고 생각하면 됩니다. 이 범위 안에 있는 내용만 AI가 참고하고, 범위를 벗어난 내용은 참고하지 못할 수 있습니다.여기서 먼저 용어 하나를 정리하겠습니다. AI 모델이란 글을 이해하고 답을 만들어 내는 두뇌 역할의 프로그램을 말합니다. 예를 들어 채팅형 AI 서비스 뒤에서 실제 답을 계산하는 부분이 모델입니다. 컨텍스트 윈도우는 바로 이 모델이 '한 번에 읽어 들일 수 있는 분량'의 한계를 가리키는 개념입니다.이 글에서는 컨텍스트 윈도우가 무엇인지, 왜 대화가 길어지면 앞부분이 반영되지 않을.. 더보기 RAG(검색증강생성)란? AI가 최신 정보를 모르는 이유와 해결법 RAG(검색증강생성)란?RAG(Retrieval-Augmented Generation, 검색증강생성)는 AI가 답을 만들기 전에 외부 문서나 데이터를 먼저 검색해서, 그 내용을 근거로 함께 참고해 답변하는 방식입니다. 쉽게 말해 '아는 것만으로 답하는 AI'에 '필요할 때 자료를 찾아보고 답하는 능력'을 붙인 것입니다.사람으로 비유하면, 시험을 볼 때 머릿속 지식만으로 푸는 것이 일반 AI라면, 참고서를 펼쳐 관련 페이지를 찾아 읽고 답을 쓰는 것이 RAG입니다. 정확한 정의로 돌아오면, RAG는 검색(Retrieval) 단계와 생성(Generation) 단계를 결합한 구조입니다. 먼저 질문과 관련된 문서를 데이터베이스에서 찾아오고(검색), 그 문서 내용을 AI에게 함께 전달해 답을 만들게 합니다(생성).. 더보기 이전 1 다음
