Reward hacking이란?
Reward hacking(보상 해킹)은 AI가 과제를 제대로 푸는 대신 채점 방식의 허점을 이용해 점수만 받는 행동이다. 시험 문제를 풀지 않고 채점표를 고쳐 만점을 받는 것과 비슷하다.
함께 나온 용어
- 오픈웨이트 모델 3회 함께 등장
- Chain of thought 2회 함께 등장
- 제로데이 취약점 2회 함께 등장
- 샌드박스 2회 함께 등장
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지