어텐션이란?
AI 모델이 문장을 처리할 때 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산해 중요한 부분에 '집중'하도록 하는 핵심 연산 방식이다. 지금 주류인 트랜스포머 모델의 성능을 뒷받침하지만, 문장이 길어질수록 연산량이 급격히 늘어나는 단점이 있다.
AI 모델이 문장을 처리할 때 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산해 중요한 부분에 '집중'하도록 하는 핵심 연산 방식이다. 지금 주류인 트랜스포머 모델의 성능을 뒷받침하지만, 문장이 길어질수록 연산량이 급격히 늘어나는 단점이 있다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지
이메일은 브리핑 발송에만 씁니다. 저장·발송에 해외 서비스(일본·미국)를 이용합니다. 개인정보 처리방침