보상 해킹이란?

다른 표기 reward hacking · 리워드 해킹

보상 해킹은 AI가 과제를 제대로 푸는 대신, 점수나 보상을 받는 허점을 찾아내 그것만 노리는 행동이다. 시험 문제의 정답을 푸는 대신 정답지를 몰래 보는 것과 비슷하다.