대화 중간에 사고량 바꾸기

내용

📌 왜 필요한가
대화 하나 안에서도 무게가 다릅니다.
설계는 깊게 생각해야 하지만, 그다음 "한 줄로 요약해줘"까지 깊게 갈 이유가 없습니다.

📌 두 가지 방법이 있고, 하나는 손해가 큽니다

① 다음 요청부터 값을 바꾸기 (모든 모델)
   간단하지만 **프롬프트 캐시가 깨집니다.**
   effort 가 프롬프트 구성 자체에 영향을 주기 때문입니다.
   긴 대화에서 캐시에 기대고 있었다면 비용이 확 뜁니다.

② 메시지 단위로 바꾸기 (Fable 5.1 · Mythos 5.1 · Opus 5)
   **캐시가 유지됩니다.** 앞부분이 그대로라서 그렇습니다.
   베타 헤더가 필요하고, Fable 5 같은 이전 모델은 400 오류를 냅니다.

📌 Fable 5.1 에서는 ②를 권합니다
캐시 문제만이 아닙니다.
①로 바꾸면 조종도 덜 먹힙니다 — 앞선 답변들이 예전 단계로 쓰여 있어서,
모델이 그 답변들과 일관되게 가려는 경향이 있기 때문입니다.

[ 쓰는 모습 ]
내용이 빈 system 메시지에 새 단계를 넣습니다.
다음 사용자 차례부터 적용되고, 다시 바꿀 때까지 유지됩니다.
앞의 내용은 그대로라 캐시가 살아 있습니다.

[ 어디에 쓰나 ]
• 설계·디버깅은 높게 → 요약·정리는 낮게
• 검색이 필요한 턴만 잠깐 올리기
  (낮은 단계에서 검색을 덜 부르는 문제를 이렇게 피합니다)
• 긴 문서를 쓰는 턴은 오히려 내리기
  (최고 단계에서는 생각으로 초안을 쓰고 답변에서 또 쓰는 일이 있습니다)

💡 캐시를 쓰는 긴 세션이고 ②를 못 쓰는 모델이라면,
   시작할 때 단계를 정하고 그대로 두는 편이 낫습니다.
   중간에 바꿔가며 아끼려다 캐시가 깨져 더 나옵니다.

궁금한 점: {{INPUT}}