KV 캐시란?

AI 모델이 글이나 대화를 처리하면서 이미 계산해 둔 결과를 임시로 저장해 두는 공간이다. 이걸 다른 모델과 그대로 주고받을 수 있으면, 매번 처음부터 다시 계산하지 않아도 돼 속도가 크게 빨라진다.

이 용어가 나온 브리핑
2026-08-252026-08-22

함께 나온 용어