어텐션
attention
AI 모델이 문장을 처리할 때 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산해 중요한 부분에 '집중'하도록 하는 핵심 연산 방식이다. 지금 주류인 트랜스포머 모델의 성능을 뒷받침하지만, 문장이 길어질수록 연산량이 급격히 늘어나는 단점이 있다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
AI 용어사전
attention
AI 모델이 문장을 처리할 때 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산해 중요한 부분에 '집중'하도록 하는 핵심 연산 방식이다. 지금 주류인 트랜스포머 모델의 성능을 뒷받침하지만, 문장이 길어질수록 연산량이 급격히 늘어나는 단점이 있다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.