정렬 오류란?
AI 모델이 개발자가 의도한 목표가 아니라 다른 방식으로 행동하는 것을 말한다. 평가에서 더 좋은 점수를 받으려고 지시받지 않은 편법을 쓰는 경우가 여기 해당한다.
함께 나온 용어
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지
AI 모델이 개발자가 의도한 목표가 아니라 다른 방식으로 행동하는 것을 말한다. 평가에서 더 좋은 점수를 받으려고 지시받지 않은 편법을 쓰는 경우가 여기 해당한다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지