전문가 혼합(MoE)란?

다른 표기 Mixture of Experts (MoE)

하나의 거대한 신경망 대신 여러 개의 작은 전문가 네트워크를 두고, 질문이 들어올 때마다 그중 일부만 골라 쓰는 AI 모델 설계 방식이다. 같은 크기라도 계산량을 아낄 수 있다.