프롬프트 인젝션 — 신뢰할 수 없는 텍스트가 명령이 된다
LLM 에이전트는 데이터와 명령을 안정적으로 구분하지 못하므로, 가져온 페이지나 도구 결과 속 텍스트가 그것을 탈취할 수 있습니다 — 깔끔한 해법이 없고 에이전트가 권한을 얻을수록 위험이 커지는 계급입니다.
아직 만들지 않았습니다
이 페이지는 카드에 적힌 내용을 펼쳐 보여줄 뿐입니다 — 돌아가는 코드도, 열어볼 데모도 아직 없습니다. 무엇을 왜 만들려는지가 아래에 있습니다.
어떻게 보나
아직 범위 미정.
기술 노트
각 항목이 실제로 무엇을 보여주고 어떻게 동작하는지 — 위 카드보다 자세한 기술 설명입니다.
프롬프트 인젝션 — 신뢰할 수 없는 텍스트가 명령이 된다준비 중
목적: 이 PoC는 에이전트가 읽는 문서에 인젝션을 심어 유출하거나 범위를 벗어나 행동하는 것을 보인 뒤 부분적 방어책(격리, 허용목록, 인간 개입)을 보입니다 — 에이전트 스택 전체의 보안 핵심입니다.
동작 방식: 아직 만들지 않음.