혼합 전문가(MoE)란?

다른 표기 mixture-of-experts (MoE) · Mixture-of-Experts · MoE(혼합전문가모델) · 전문가 혼합(MoE) · 전문가 혼합

혼합 전문가(MoE)는 모델 안을 여러 전문 부분으로 나눠 두고, 질문마다 필요한 일부만 켜서 쓰는 구조다. 전체 크기에 비해 계산이 적게 든다.