Prompt Engineering 프롬트 엔지니어링 꿀팁

내가 생각하는 중요 원리:

1. Instruction 과 Context(상황맥락)이 형식상으로 잘 분리되어야 Ai 가 더 잘 문제를 인식함

2. Example을 많이 줄수록 output의 정확도가 올라감

3. 1 token = 4 characters -> 100 token = 60-80 words

   -> LLM이 다룰수 있는 토큰수를 고려해서 질문의 크기를 조절해야함

4. Parameter

temperature:

0 ~ 1 (1로 갈수록 답변이 좀더 창의적, 0으로 갈수록 Q&A에 대한 정석답변처럼 덜 창의적)

stop sequences:

AI에서 stop sequence(또는 stop token)는 텍스트 생성 모델이 출력을 중단하도록 지시하는 문자열 또는 토큰입니다. 이는 텍스트 생성의 끝을 제어하거나, 원하지 않는 추가 출력을 막을 때 유용합니다.

📘 개념 정리:

• stop sequence: 모델이 텍스트를 생성할 때, 특정 문자열(또는 문자열 집합)을 만나면 출력을 멈추게 하는 설정.

• 예: API나 챗봇 응답에서 "여기까지만 출력해"라는 목적.

✅ 예시 1: Q&A 챗봇

{
  "prompt": "Q: What is the capital of France?\nA:",
  "stop": ["\n"]
}

• 이 경우 모델은 A: 다음 한 줄만 생성하고, 줄바꿈(\n)을 만나면 멈춥니다.

• 출력:

  A: Paris

✅ 예시 2: 다중 문항 출력 제어

{
  "prompt": "1. Who wrote Hamlet?\nA:",
  "stop": ["\n2."]
}

• 2.이라는 문자열이 나오면 멈춥니다. 이렇게 하면 1번 문항의 답만 출력됩니다.

• 출력:

  A: William Shakespeare

✅ 예시 3: JSON 생성

{
  "prompt": "Return the user's info in JSON:\n",
  "stop": ["}"],
  "max_tokens": 100
}

• 출력을 }에서 멈추게 하면, JSON 객체를 깔끔히 마칠 수 있습니다.

• 출력:

  {
    "name": "Alice",
    "age": 30
  }
  

🧠 왜 중요한가?

• 원치 않는 정보 방지: 예를 들어 비속어나 개인정보 노출 방지.

• 정형 출력 유지: JSON, XML 등 구조화된 데이터 출력 시 유용.

• 후속 질의 간 간섭 방지: 여러 문항이 이어질 때, 원하는 지점까지만 출력.

OpenAI 블로그 링크 및 내용

https://help.openai.com/en/articles/6654000-best-practices-for-prompt-engineering-with-the-openai-api

2. Put instructions at the beginning of the prompt and use ### or """ to ...