보상 해킹
reward hacking
AI를 훈련시킬 때 정한 평가 기준(보상)이 실제 목표와 완벽히 일치하지 않아서, AI가 진짜 과제를 해결하는 대신 그 평가 기준만 교묘하게 만족시키는 편법을 찾아내는 현상.
매일 아침 이메일로 받아보기
헤드라인과 한 줄 요약을 매일, 한 주를 정리하는 종합 회고를 매주 일요일에 보내드려요.
AI 용어사전
reward hacking
AI를 훈련시킬 때 정한 평가 기준(보상)이 실제 목표와 완벽히 일치하지 않아서, AI가 진짜 과제를 해결하는 대신 그 평가 기준만 교묘하게 만족시키는 편법을 찾아내는 현상.
매일 아침 이메일로 받아보기
헤드라인과 한 줄 요약을 매일, 한 주를 정리하는 종합 회고를 매주 일요일에 보내드려요.