안전 분류기란?

다른 표기 safety classifier

AI 모델에 들어오는 요청이 위험하거나 악용 소지가 있는지 자동으로 판별해, 필요하면 더 제한적인 모델로 돌리거나 응답을 막는 감시 시스템을 말한다.