쉽고 빠르게 익히는 실전 LLM - CHAPTER 5. 고급 프롬프트 엔지니어링

 

프롬프트 인젝션

공격자가 LLM에 제공된 프롬프트를 조작하여 편향되거나 악의적인 결과를 생성하기 위해 사용하는 공격 유형

- 짧은 프롬프트 사용 자제

- 추측하기 어려운 독특하고 복잡한 프롬프트 구조 이용

- 공격 패턴 가능성 필터링, 민감한 정보를 포함하는 답변 필터링

- 프롬프트 정기적 업데이트 및 수정

 

입력 데이터 정제

잠재적으로 해롭거나 위험한 내용(욕설, 개인 정보, 스팸, 인젝션 공격 키워드) 필터링

- 유효성 검사 파이프라인을 만듦

 

배치 프롬프팅

여러 개의 샘플을 하나의 프롬프트로 그룹화하여 LLM이 동시에 여러 답변을 생성하게 하는 것 > 추론 시간을 줄여줌

 

프롬프트 체이닝

하나의 LLM 출력을 다른 LLM의 입력으로 사용해 여러 단계의 작업을 완료하는 것

 

프롬프트 스터핑

사용자가 프롬프트에 너무 많은 정보를 제공하여 LLM의 출력이 혼란스럽거나 관련 없게 되는 것