쉽고 빠르게 익히는 실전 LLM - CHAPTER 3. 프롬프트 엔지니어링의 첫 번째 단계

 

프롬프트 엔지니어링

LLM기반 어플리케이션 구축 시, 사용자 경험을 향상시키기 위해 필요

정확하고 유용한 출력을 반환도록 유도하는 LLM에 대한 입력(프롬프트)를 만드는 것

 

정렬

모델이 사용자가 예상한 것과 일치하는 방식으로 입력 프롬프트를 이해하고 답변하는 것

 

프롬프트 엔지니어링 최적화

1. 직접 요청하기

2. 퓨샷 학습

3. 출력 구조화

4. 페르소나 지정

 

퓨샷 학습

LLM에 몇 가지 예제를 제공하여 정확하고 일관된 출력을 생성하도록 하는 것

문제의 맥락과 애매한 차이를 이해하는 데 도움을 줌

특정한 어조, 구문 또는 특정 도메인에 특화된 언어를 다룰 때 유용함

명시적인 지시를 제공하지 않고도 LLM에 작업 이해도를 제공하여 더 직관적이고 사용자 친화적인 환경을 만들 수 있음

> 챗봇, 언어 번역 도구 등 LLM 기반 어플리케이션 개발에 활용

 

페르소나

프롬프트에 따라 스타일이나 말투를 채택할 수 있도록 설정

 

시스템 프롬프트

대화의 일반적인 지침, 따라야 할 전반적인 규칙과 역할을 포함

 

Q/A 챗봇 알고리즘

1. ChatGPT를 위한 시스템 프롬프트를 디자인

2. 새로운 사용자 메시지마다 저장된 지식에서 의미를 검색 (FastAPI)

3. 데이터베이스에서 찾은 의미를 직접 GhatGPT의 시스템 프롬프트에 삽입

4. ChatGPT가 대화형 답변을 반환