KV 캐시

KV cache

AI 모델이 이전 대화 내용을 처음부터 다시 계산하지 않고 재사용할 수 있도록 저장해두는 중간 데이터.

이 용어가 나온 브리핑
2026-08-22