에이전트를 만들기 전에 — 단순한 게 나을 때

내용

📌 앤트로픽 「Building effective agents」의 결론

"단순한 프롬프트로 시작하고, 평가로 다듬고,
 더 단순한 방법으로 안 될 때만 여러 단계짜리 에이전트를 붙여라."

[ 왜 이렇게 말하나 ]
에이전트는 성능을 얻는 대신 응답 시간과 비용을 내줍니다.
게다가 여러 단계를 거치므로 **오류가 쌓입니다.**
1단계에서 조금 어긋난 것이 5단계에서는 완전히 다른 결과가 됩니다.

[ 이 순서로 확인하세요 ]
① 프롬프트 하나로 되는가 → 되면 여기서 끝
② 자료를 붙여주면 되는가 → 되면 여기서 끝
③ 정해진 단계로 나누면 되는가 → 워크플로 (다음 항목들)
④ 단계를 미리 정할 수 없는가 → 그때가 에이전트

[ 에이전트가 맞는 경우 ]
• 무엇을 몇 번 해야 할지 미리 알 수 없다
• 중간 결과를 보고 다음을 정해야 한다
• 실패하면 다시 시도해야 한다

[ 에이전트가 과한 경우 ]
• 입력과 출력이 정해져 있다
• 단계가 항상 같다
• 사람이 중간에 확인해야 한다

⚠️ 에이전트를 쓴다면 격리된 환경에서 충분히 시험하고 안전장치를 두세요.
앤트로픽도 이 점을 함께 강조합니다.