Time to first token이란?
Time to first token은 AI에게 질문을 보낸 뒤 답의 첫 부분이 나오기 시작할 때까지 걸리는 시간이다. 짧을수록 사용자는 AI가 바로 반응한다고 느낀다.
Time to first token은 AI에게 질문을 보낸 뒤 답의 첫 부분이 나오기 시작할 때까지 걸리는 시간이다. 짧을수록 사용자는 AI가 바로 반응한다고 느낀다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지