직장인이 ChatGPT로 보고서를 쓸 때 가장 먼저 배워야 할 프롬프트 기법은 결론보다 근거 흐름을 먼저 설계하는 Chain of Thought입니다. 결론부터 말하면 결과보다 과정을 설계해야 하고, AI에게 한 번에 맡기기보다 단계와 기준을 나눠야 하며, 최종 판단은 사람이 검토해야 한다는 점이 중요합니다. 아래에서는 실제 업무에 바로 적용할 수 있도록 단계, 예시, 프롬프트, 주의사항 순서로 정리합니다.
이 글은 논문 Chain-of-Thought Prompting Elicits Reasoning in Large Language Models의 핵심 아이디어를 직장인 업무 방식으로 바꾼 글입니다. 논문 자체를 학술적으로 해설하기보다, 보고서·회의·자료조사·기획 업무에 바로 쓰는 방식으로 정리했습니다.
목차
이런 분께 필요합니다
- AI 답변은 빠르지만 결과물 품질이 일정하지 않아 고민하는 직장인
- 보고서 초안은 그럴듯한데 왜 그런 결론이 나왔는지 설명이 약할 때 해결 방법이 필요한 실무자
- 반복 업무를 프롬프트, 체크리스트, 업무 절차로 바꾸고 싶은 팀 리더
핵심 요약
| 구분 | 내용 |
|---|---|
| 가져올 원리 | 모델에게 정답만 요구하지 않고 중간 추론 과정을 예시로 보여주면 복잡한 산술·상식·기호 추론 과제에서 성능이 좋아진다는 점입니다.[1] |
| 업무 적용 | 한 번에 결과를 요구하지 않고 단계, 기준, 검토 흐름을 먼저 설계합니다. |
| 주의점 | AI 산출물은 초안입니다. 사실, 보안, 조직 기준은 사람이 확인해야 합니다. |
업무 흐름 먼저 보기
- 업무 질문을 한 문장으로 정리한다.
- AI에게 바로 결론을 쓰게 하지 말고 판단 기준을 먼저 쓰게 한다.
- 근거와 반대 근거를 나누어 정리하게 한다.
- 마지막에 결론·리스크·추가 확인 사항을 분리한다.
- 사람이 수치와 출처를 확인한 뒤 제출 문장으로 다듬는다.
이 흐름의 목적은 AI를 더 많이 쓰는 것이 아닙니다. 재작업을 줄이고, 결과물의 기준을 명확히 만드는 것입니다. AI가 낸 첫 답이 아니라, 사람이 검토 가능한 구조를 만드는 것이 핵심입니다.
바로 복사해서 쓰는 프롬프트
보안 주의: 이 글의 프롬프트 예시는 일반 업무 상황을 기준으로 작성했습니다. 회사 내부자료, 고객 개인정보, 계약서, 미공개 재무정보, 영업기밀은 외부 AI 서비스에 입력하지 않는 것이 원칙입니다. 조직의 보안 정책을 먼저 확인한 뒤 활용하시기 바랍니다.
“`text 당신은 전략기획 보고서 검토자입니다. 목표는 업무 이슈의 결론뿐 아니라 판단 과정을 보이게 정리하는 것입니다. 아래 자료를 바탕으로 결론형 보고서 초안을 만들어 주세요.
조건:
- 먼저 판단 기준 3개를 제시합니다.
- 각 기준별로 근거와 반대 근거를 나눕니다.
- 중간 추론을 번호 순서로 보여줍니다.
- 확인되지 않은 사실은 “추가 확인 필요”로 표시합니다.
- 마지막에 결론 1문장과 실행안 3개를 씁니다.
[자료] 신규 고객 세그먼트 A에 집중할지, 기존 고객 업셀링에 집중할지 비교해야 합니다. 일반화된 매출 추정, 영업 리소스, 리스크만 입력했습니다. “`
결과물을 검토하는 기준
| 검토 기준 | 확인 질문 |
|---|---|
| 사실성 | 출처가 필요한 문장과 추측이 분리되어 있는가? |
| 보안 | 회사 내부자료, 고객 개인정보, 계약 정보가 외부 AI에 입력되지 않았는가? |
| 실행성 | 오늘 바로 할 수 있는 다음 행동이 1~3개로 정리되어 있는가? |
| 일관성 | 결론, 근거, 실행안이 서로 같은 방향을 말하는가? |
| 책임 | 최종 판단과 승인 주체가 사람으로 남아 있는가? |
자주 막히는 지점
생각 과정을 길게 쓰기만 할 때
단계를 3~5개로 제한하고, 각 단계마다 판단 기준을 요구해야 합니다.
그럴듯한 논리가 사실처럼 보일 때
수치, 법규, 고객 발언은 반드시 별도 출처 확인 대상으로 표시해야 합니다.
오늘 바로 해볼 체크리스트
- [ ] 오늘 반복한 업무 하나를 고른다.
- [ ] 그 업무의 입력 자료와 최종 결과물을 한 문장으로 적는다.
- [ ] 위 프롬프트에서 역할, 목표, 결과물만 바꿔 실행한다.
- [ ] AI 결과물에서 사실과 추측을 분리한다.
- [ ] 잘 나온 지시문은 다음에 다시 쓸 수 있도록 저장한다.
함께 읽으면 좋은 글
관련해서 ChatGPT로 보고서 작성하는 법, NotebookLM으로 PDF 요약하는 법, 회사에서 AI 쓸 때 보안 주의사항도 함께 읽으면 업무 적용 흐름을 더 쉽게 잡을 수 있습니다.
FAQ
모든 프롬프트에 Chain of Thought를 넣어야 하나요?
아닙니다. 단순 요약이나 문장 수정에는 과합니다. 비교, 판단, 원인 분석, 의사결정처럼 근거가 중요한 업무에 쓰는 것이 좋습니다.
AI의 생각 과정을 그대로 보고서에 넣어도 되나요?
그대로 넣기보다 판단 기준과 근거 구조만 가져오고, 최종 문장은 사람이 책임지고 다듬어야 합니다.
References
[1]: https://arxiv.org/abs/2201.11903 “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models”