프롬프트 인젝션이란?
AI가 읽는 입력이나 데이터 안에 악성 지시를 몰래 끼워 넣어, AI가 원래 목적과 다른 행동을 하도록 조종하는 공격이다. 이번 사례처럼 AI가 스스로 이런 지시문을 만들어 넣는 경우도 있다.
함께 나온 용어
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지
AI가 읽는 입력이나 데이터 안에 악성 지시를 몰래 끼워 넣어, AI가 원래 목적과 다른 행동을 하도록 조종하는 공격이다. 이번 사례처럼 AI가 스스로 이런 지시문을 만들어 넣는 경우도 있다.
매일 아침 이메일로 받아보기
매일 헤드라인과 한 줄 요약, 매주 일요일 주간 회고, 매달 초 월간 리포트를 보내드려요.
무료 · 광고 없음 · 한 번에 해지