같은 AI인데 왜 답변 수준이 다를까

깊이 있는 답을 끌어내고 오류를 줄이는 프롬프트 작성법

— 실전 AI 활용법 시리즈 2편

 

---

 

요즘은 일상생활과 업무에서 생성형 AI를 활용하는 분들이 빠르게 늘고 있습니다.

 

저 역시 금융교육 현장에서 강의자료를 작성하고, 강의에 활용할 사례를 연구하며, 최근 정책자료와 연구보고서를 검색하고 정리하는 과정에서 생성형 AI를 자주 사용하고 있습니다.

 

그런데 AI를 실제로 활용하다 보면 흥미로운 점들을 발견하게 됩니다.

 

 

깊이 있는 답변을 만드는 프롬프트 설계 내용 본문 이미지입니다

 

 

 

같은 AI를 사용하더라도 누구는 단순한 요약 수준의 답변을 얻고, 누구는 전문가가 작성한 보고서에 가까운 결과물을 얻습니다. 비슷한 주제를 질문했는데도 답변의 깊이와 활용도는 크게 달라질 수 있습니다.

 

그 차이는 AI 모델의 성능에만 있지 않습니다.

 

질문을 어떻게 설계하고, 어떤 조건을 제시하며, 무엇을 확인하도록 요구했는지가 결과물의 수준을 좌우합니다.

 

1편에서는 여러 AI 도구를 기능별로 구분하고 목적에 따라 연결해 활용하는 방법을 살펴보았습니다.

 

이번 2편에서는 같은 도구를 사용하더라도 더 깊이 있는 답변을 얻고, 그럴듯한 오류를 줄이기 위해 질문을 어떻게 설계해야 하는지 알아보겠습니다.

 

예를 들어 AI에 다음과 같이 물을 수 있습니다.

 

'전기차 산업을 분석해 주세요.'

 

AI는 곧바로 답변을 작성합니다.

 

하지만 이 질문만으로는 분석 목적이 무엇인지, 어느 수준까지 다뤄야 하는지, 최신 자료가 필요한지, 가치사슬과 주요 위험요인을 포함해야 하는지 알 수 없습니다. 표, 보고서, 체크리스트 가운데 어떤 형태의 결과물이 필요한지도 분명하지 않습니다.

 

따라서 답변이 일반적인 설명 수준에 머물 가능성이 높습니다.

 

반면 역할, 목적, 자료범위, 기준일, 출력 형식과 제한조건을 구체적으로 제시하면 답변의 깊이와 활용도는 크게 달라집니다.

 

---

좋은 프롬프트에 들어갈 일곱 가지 요소

 

강의 현장에서 교육생들에게 자주 강조하는 내용이 있습니다.

AI에게 질문하기 전에 다음 일곱 가지를 먼저 점검하면, 답변의 깊이와 활용도가 훨씬 높아집니다.

요소	확인할 내용 입력	예시
역할	어떤 전문가의 관점으로 답할 것인가	산업 리서치 애널리스트
맥락	누가, 왜 사용하는가	비전문가가 산업의 흐름을 이해하기 위해
목표	무엇을 분석하거나 만들 것인가	가치사슬과 핵심 위험요인 분석
자료범위	어떤 자료를 근거로 할 것인가	제공한 PDF와 공식자료 중심
기준일	어느 시점의 정보를 사용할 것인가	최근 분기 공시 기준
출력 형식	어떤 형태로 받을 것인가	요약, 표, 체크리스트, 보고서
제한조건	하지 말아야 할 것과 재확인할 항목	임의 추정 금지, 공식자료 확인 필요 표시

 

모든 질문에 일곱 가지를 항상 넣을 필요는 없습니다.

 

여행 일정이나 이메일 초안처럼 간단한 작업은 짧게 물어도 됩니다.

그러나 금융, 투자, 정책, 세금, 기업분석처럼 정확성이 중요한 작업일수록 조건을 구체적으로 적는 것이 좋습니다.

 

특히 자료범위와 기준일을 따로 떼어 명시하는 습관은, 숫자 하나가 판단을 바꾸는 금융 분야에서 효과가 큽니다.

 

여기에 한 가지를 덧붙이면 결과가 더 안정됩니다. 원하는 형태의 짧은 예시를 함께 제시하는 것입니다.

 

“이런 식으로 정리해 달라”는 예시 한 줄이 있으면, AI는 형식과 수준을 훨씬 정확히 맞춰 줍니다.

 

---

답변의 깊이를 높이는 5가지 실전 기법

 

좋은 프롬프트의 일곱 가지 요소를 갖추었다면, 이제 답변의 깊이를 한 단계 더 높일 수 있습니다.

 

AI에게 질문을 한 번 입력하고 결과를 그대로 사용하는 것보다, 분석 항목을 먼저 설계하고, 자료를 제공하며, 후속 질문과 반대검증을 이어가는 방식이 훨씬 효과적입니다.

 

첫째, 단계적 사고를 유도하는 질문법(CoT, Chain of Thought)을 활용합니다

복잡한 질문일수록 처음부터 결론만 요구하지 않는 것이 좋습니다.

바로 답변을 작성하게 하면 중요한 검토 항목이 빠지거나, 확인되지 않은 사실과 해석이 섞일 수 있습니다.

먼저 분석 틀과 검토 순서를 설계하게 하면 결과물의 논리적 완성도가 높아집니다.

 

예를 들어 다음과 같이 요청할 수 있습니다.

---

답변을 바로 작성하지 말고, 먼저 이 주제를 분석하기 위해 검토해야 할 항목, 판단 기준, 필요한 자료와 추가 확인사항을 정리해 주세요.
이후 확인된 사실과 해석을 구분하고, 각 항목을 단계별로 검토한 뒤 최종 결론을 제시해 주세요.
사용자가 결과를 검증할 수 있도록 핵심 판단 근거와 검토 흐름을 명확하게 보여 주세요.

---

 

이러한 방식은 흔히 단계적 사고를 유도하는 질문법(CoT, Chain of Thought)으로 설명합니다.

 

핵심은 AI의 내부 사고 과정을 장황하게 나열하게 하는 데 있지 않습니다. 사용자가 확인할 수 있도록 분석 항목, 판단 기준, 근거, 주요 가정과 추가 확인사항을 구조화해 출력하게 하는 데 있습니다.

 

둘째, 가능한 경우 판단의 근거가 될 자료를 직접 제공합니다

 

AI가 기억에 의존해 답변하도록 두는 것보다, 분석에 필요한 자료를 직접 제공하는 편이 정확합니다.

 

예를 들어 사업보고서, 공시자료, 정책자료, 상품설명서, 통계자료, 논문과 기사 링크를 첨부하거나 핵심 내용을 붙여 넣을 수 있습니다.

 

이때 반드시 공개자료에 한정해야 합니다. 이미 공시되었거나 외부 공개가 허용된 정보는 활용할 수 있지만, 개인정보, 고객정보, 기업의 비공개 자료, 기관 내부자료, 계정 비밀번호, API 키, 액세스 토큰, 인증코드와 같은 보안정보는 외부 생성형 AI에 입력해서는 안 됩니다. 

 

외부 생성형AI에 입력하면 안되는 정보 인포그래픽입니다

 

다음과 같이 요청하면 좋습니다.

 

---

아래에 제공한 자료를 우선 근거로 사용해 주세요.
제공한 자료에서 직접 확인할 수 있는 내용과 자료 밖의 일반적인 설명을 구분해 주세요.
자료에 없는 내용은 임의로 추정하지 말고 ‘자료에 없음’ 또는 ‘공식자료 재확인 필요’로 표시해 주세요.

---

 

자료를 직접 제공하더라도 최신성을 별도로 확인해야 합니다.

오래된 정책자료, 과거 시점의 통계, 이전 분기의 기업자료를 넣으면 AI의 답변도 그 시점에 머물 수 있습니다. 따라서 자료명, 작성일, 기준일과 출처를 함께 정리하는 습관이 필요합니다.

 

셋째, 첫 번째 답변에서 끝내지 말고 후속 질문으로 깊이를 더합니다

좋은 답변은 한 번의 긴 질문보다 두세 차례의 후속 질문을 통해 만들어지는 경우가 많습니다.

첫 번째 답변은 전체 그림을 확인하는 데 사용하고, 이후에는 빠진 부분을 좁혀가며 질문하는 것이 좋습니다.

예를 들어 다음 질문을 이어갈 수 있습니다.

---

그렇게 판단한 근거는 무엇인가요?
가장 중요한 변수 세 가지를 우선순위로 정리해 주세요.
반대 방향으로 해석할 수 있는 사실은 없나요?
추가로 확인해야 할 공식자료는 무엇인가요?
초보자가 오해하기 쉬운 부분은 무엇인가요?

---

 

산업분석을 예로 들면, 처음에는 산업의 전체 흐름을 파악하고, 다음 질문에서는 가치사슬을 나누며, 이후에는 수익성을 좌우하는 변수와 위험요인을 점검할 수 있습니다.

 

한 번에 모든 것을 요구하지 않고 질문의 범위를 점차 좁혀가는 것이 핵심입니다.

 

넷째, 관점을 바꾸고 AI 스스로 약점을 점검하게 합니다

AI가 작성한 첫 번째 답변은 특정한 방향으로 치우칠 수 있습니다.

예를 들어 산업의 성장 가능성을 중심으로 질문하면 긍정적인 요인이 강조되고, 위험요인을 중심으로 질문하면 부정적인 해석이 두드러질 수 있습니다.

 

따라서 같은 내용을 다른 관점에서 다시 살펴보게 하는 것이 좋습니다.

이 과정은 AI의 답변을 무조건 믿지 않고, 반대 방향의 가능성을 함께 살펴보는 습관을 만들어 줍니다.

---

이번에는 낙관적인 해석을 제외하고, 비관적인 관점에서 같은 내용을 검토해 주세요.
앞의 답변에서 과도하게 단정한 부분, 논리적 비약, 누락된 위험요인과 예외사항을 구분해 주세요.
이 분석이 틀릴 수 있는 조건을 세 가지 이상 제시해 주세요.

---

 

다섯째, 중요한 결과물은 새 대화창이나 다른 AI에서 교차검증합니다

 

첫 번째 답변을 곧바로 최종 결과물로 사용하지 않는 것이 좋습니다.

같은 대화창에서 후속 질문을 이어가면 맥락을 유지하며 내용을 보완하기에는 편리합니다. 그러나 기존 대화에서 이미 형성된 해석과 결론의 영향을 받을 수 있습니다.

 

중요한 작업이라면 동일한 AI라도 새로운 대화창을 열어 첫 번째 답변을 검토하게 하거나, 다른 AI에 결과를 넣어 반대 논리와 누락사항을 점검하게 하십시오.

 

새 대화창을 활용하면 앞선 답변을 하나의 검토 대상 자료로 보고 보다 독립적으로 살펴볼 수 있습니다. 다른 AI를 활용하면 도구마다 강조하는 관점과 정리 방식이 다르므로, 한쪽에서 놓친 위험요인이나 과도하게 단정한 해석을 발견할 가능성이 높아집니다.

 

다만 다른 AI의 답변이라고 해서 자동으로 더 정확한 것은 아닙니다.

 

교차검증의 목적은 또 다른 정답을 받는 데 있지 않습니다. 추가로 확인해야 할 항목을 찾아내고, 과도한 단정을 줄이며, 원문에서 직접 확인할 자료를 구체화하는 데 있습니다.

 

다음 프롬프트를 활용할 수 있습니다.

---

앞의 답변을 그대로 반복하지 말고, 독립적인 검토자의 관점에서 점검해 주세요.
다음 항목을 구분해 표로 정리해 주세요.

1. 공식자료에서 확인되지 않은 내용
2. 오래되었거나 최신 여부를 다시 확인해야 하는 수치
3. 논리적 비약이 있는 해석
4. 반대 방향으로 해석할 수 있는 사실
5. 누락된 위험요인과 예외사항
6. 최종 판단 전에 원문에서 직접 확인해야 할 자료확인되지 않은 내용은 임의로 추정하지 말고 ‘공식자료 재확인 필요’로 표시해 주세요.

 

---

어떤 방식으로 검증할 것인가

활용 방식	장점	유의사항
같은 대화창에서 후속 질문	기존 맥락을 유지하며 내용을 보완하기 좋음	앞선 해석의 영향을 받을 수 있음
동일 AI의 새 대화창	기존 결론과 거리를 두고 다시 점검하기 좋음	완전히 독립적인 검증은 아님
다른 AI에서 교차검증	누락, 반대 논리와 다른 관점을 찾는 데 유용	다른 AI도 오류를 만들 수 있음
공식자료 직접 확인	숫자, 날짜, 제도와 적용 조건을 확정하는 최종 절차	반드시 사람이 직접 수행해야 함

 

실전에서는 다음 순서로 활용하면 좋습니다.

 

같은 대화창에서 후속 질문으로 심화 → 새 대화창 또는 다른 AI에서 반대검증 → 공식 원문에서 최종 확인

 

AI를 잘 활용한다는 것은 한 번에 완벽한 답을 받는 일이 아닙니다. 질문을 단계적으로 발전시키고, 답변을 의심하며, 중요한 내용을 사람이 직접 검증하는 과정입니다.

 

---

할루시네이션은 완전히 없앨 수 있을까

 

생성형 AI는 공식 데이터베이스에서 정답을 그대로 꺼내는 도구가 아닙니다.

질문과 자료를 바탕으로 가장 자연스러운 답을 생성합니다. 그래서 존재하지 않는 통계, 오래된 수치, 잘못된 날짜, 원문에 없는 인용문을 그럴듯하게 제시할 수 있습니다. 이를 흔히 할루시네이션이라고 합니다.

 

완전히 없애기는 어렵습니다. 다만 프롬프트 안에 통제 장치를 넣으면 발생 가능성을 상당히 줄일 수 있습니다. 한 가지 유의할 점은, 자료를 직접 제공한다고 해서 오류가 사라지는 것은 아니라는 사실입니다.

 

AI는 제공한 자료를 잘못 인용하거나 없는 내용을 끼워 넣기도 하므로, 인용과 수치 부분은 결국 원문과 직접 대조해야 합니다.

 

 

---

오류를 줄이는 필수 통제 문장

 

다음 문장은 금융, 투자, 정책, 법률, 세무처럼 정확성이 중요한 질문에 함께 넣는 것이 좋습니다.

1. 확인되지 않은 내용을 사실처럼 단정하지 마십시오.
2. 자료를 찾지 못한 경우 임의로 추정하지 말고 ‘공식자료 재확인 필요’라고 표시해 주세요.
3. 확인된 사실, 해석, 추가 확인사항을 구분해 주세요.
4. 수치, 날짜, 기관명, 상품명은 별도 표로 정리해 주세요.
5. 최신성이 중요한 내용은 기준일과 공식 확인 경로를 표시해 주세요.

AI의 답이 자연스럽고 구체적이라는 이유만으로 정확하다고 판단해서는 안 됩니다.

그리고 이 통제 문장들은, 뒤에 소개하는 프롬프트 생성기에 이미 반영되도록 설계해 두었습니다.

 

오류를 줄이는 핵심 통제조건 인포그래픽

 

---

좋은 프롬프트를 만들어 주는 프롬프트

 

매번 긴 프롬프트를 처음부터 작성하기는 어렵습니다. 아래 프롬프트는 사용자가 주제, 목적, 독자, 결과물, 요구사항을 입력하면 해당 작업에 맞는 고밀도 프롬프트를 자동으로 만들어 주는 통제형 프롬프트 생성기입니다.

괄호 안 가상사례를 자신의 목적에 맞게 수정해 사용하십시오.

 

※ 주의사항

개인정보, 계좌번호, 고객정보, 기업의 비공개 자료는 입력하지 마십시오.

AI가 제시한 금융·세제·정책 관련 내용은 반드시 관계기관의 공식 안내자료에서 다시 확인하십시오.

이 프롬프트를 먼저 실행하면, 단순한 질문이 아니라 작업 목적에 맞게 통제된 실행용 프롬프트를 만들 수 있습니다. 다만 어떤 프롬프트도 오류를 완전히 차단하지는 못합니다. 최신 수치와 중요한 판단은 반드시 공식 원문에서 다시 확인해야 합니다.

 

[ 통제형 프롬프트 생성기 ]

---

당신은 고급 프롬프트 설계 전문가입니다. 아래 입력정보를 바탕으로, 사용자가 다른 생성형 AI에 그대로 붙여 넣어 실행할 수 있는 정교한 실전형 프롬프트를 작성해 주세요. 단순한 질문문이 아니라, 역할·목적·맥락·자료범위·기준일·작업순서·출력형식·검증절차·제한조건을 포함한 통제형 프롬프트로 작성해 주세요.

 

[입력정보]

분석하거나 작성할 주제 (예: 국내 전기차 산업의 가치사슬과 주요 위험요인)

활용 목적 (예: 비전문가 대상 산업분석 강의자료 작성)

최종 결과물 (예: 3,000자 내외 설명문, 비교표 2개, 핵심 체크리스트)

주요 독자 (예: 산업분석을 처음 접하는 직장인)

반드시 포함할 내용 (예: 산업 개요, 가치사슬, 주요 참여자, 수익성을 좌우하는 변수, 정책 영향, 주요 리스크)

제외할 내용 (예: 특정 종목의 매수·매도 의견, 목표주가, 확인되지 않은 점유율 추정)

활용 가능한 자료 (예: 정부 정책자료 PDF, 기업 IR자료, 산업통계 링크)

최신성 기준 (예: 2026년 6월 기준 최신 공개자료, 최근 분기 공시 기준)

원하는 문체와 난이도 (예: 전문적이되 초보자도 이해하도록 용어를 간단히 설명)

출력 형식 (예: 제목, 도입부, 핵심 요약, 본문, 표, 체크리스트, 추가 확인자료)

 

[반드시 반영할 통제조건]

• 확인되지 않은 내용을 사실처럼 단정하지 않도록 지시하세요.
• 자료가 없으면 임의로 추정하지 말고 ‘공식자료 재확인 필요’라고 표시하도록 하세요.
• 확인된 사실, 해석, 추가 확인사항을 구분하도록 하세요.
• 수치, 날짜, 기관명, 상품명은 별도 표로 정리하도록 하세요.
• 최신성이 필요한 내용은 기준일과 공식 확인 경로를 표시하도록 하세요.
• 제공된 자료와 외부 공개자료를 구분하도록 하세요.
• 중요한 주장에는 근거 또는 확인 경로를 표시하도록 하세요.
• 반대 방향의 해석, 누락 가능성, 주요 위험요인을 별도로 점검하도록 하세요.
• 개인정보, 고객정보, 기업의 비공개 자료를 입력하지 않도록 안내하세요.
• 최종 출력 전에 자체 점검표를 적용하도록 하세요.

[최종 출력 형식]

Ⅰ. 복사하여 바로 사용할 수 있는 완성형 프롬프트

Ⅱ. 사용자가 추가로 입력하면 좋은 정보

Ⅲ. 공식자료 재확인이 필요한 항목 Ⅳ. 할루시네이션 위험이 높은 부분

Ⅴ. 보다 정밀한 답변을 위한 후속 질문 5개

 

프롬프트는 구체적이고 실행 가능하게 작성하되, 불필요하게 장황하지 않게 정리해 주세요.

---

모바일 간이 프롬프트

---

당신은 고급 프롬프트 설계 전문가입니다.

아래 조건을 반영해 다른 AI에 바로 붙여 넣을 실행용 프롬프트를 작성해 주세요.

 

주제는 (예: 국내 전기차 산업의 가치사슬과 위험요인),

목적은 (예: 비전문가 대상 2시간 강의안 작성),

결과물은 (예: 3,000자 설명문·비교표 2개·체크리스트)입니다.

 

정부자료·기업 IR·최근 통계를 우선 사용하고 기준일을 표시하세요.

역할·맥락·목표·자료범위·출력형식·제외사항·검증절차를 포함하세요.

확인되지 않은 내용은 추정하지 말고 ‘공식자료 재확인 필요’로 표시하며,

사실·해석·추가 확인사항을 구분하고 수치·날짜·출처는 별도 표로 정리하도록 설계해 주세요.

 

---

모바일 간이 프롬프트 QR코드

 

※ QR코드를 읽으시면 위 프롬프트 내용이 나옵니다. PC로 사용하시는 분은 모바일폰으로 QR코드를 읽은후 프롬프트 내용을 각자의 생성형AI에 붙여넣으셔서 실행하시기 바랍니다.
※모바일폰으로 읽고 계신 분은 QR코드 부분을 스크린캡쳐 하셔서 갤러리에 저장한 후, QR코드 이미지스캔 기능을 활용하여  갤러리 사진을 읽으시면 프롬프트 내용이 나옵니다. 복사하셔서 생성형AI에 붙여넣기 하신후 실행하시기 바랍니다

 

---

반대검증 프롬프트

첫 답변을 받은 뒤에는 새 대화창이나 다른 AI에서 다음 프롬프트를 실행해 보시기 바랍니다.

검증은 도구를 바꾸는 일이 아니라 관점을 바꾸는 일입니다.

---

앞의 답변을 그대로 반복하지 말고 검증해 주세요.
다음 항목을 구분해 표로 정리해 주세요.

1) 공식자료에서 확인되지 않은 내용
2) 오래되었거나 최신 여부를 다시 확인해야 하는 수치
3) 논리적 비약이 있는 해석
4) 반대로 해석할 수 있는 사실
5) 빠진 위험요인과 예외사항
6) 원문에서 직접 확인해야 할 자료. 확인되지 않은 내용은 추정하지 말고 ‘공식자료 재확인 필요’로 표시해 주세요.

---

---

자주 하는 실수

첫째, 질문이 너무 짧고 막연합니다.

둘째, 한 번에 지나치게 많은 작업을 요구합니다.

셋째, AI의 첫 답변을 검증 없이 그대로 사용합니다.

넷째, 숫자와 날짜를 공식자료에서 다시 확인하지 않습니다.

다섯째, 개인정보와 비공개 자료를 무심코 입력합니다.

 

다섯 번째 실수는 특히 금융 분야에서 치명적일 수 있어, 후속편에서 별도로 다룹니다.

 

---

마무리

AI의 답변 수준은 모델의 성능만으로 결정되지 않습니다.

질문자가 목적, 자료범위, 기준일, 출력 형식과 제한조건을 얼마나 구체적으로 제시하는지에 따라 결과가 달라집니다.

 

좋은 프롬프트를 작성한다는 것은 문장을 길게 쓰는 일이 아닙니다.

 

AI가 해야 할 일과 하지 말아야 할 일을 명확히 정하고, 사실과 해석을 구분하며, 마지막에 검증 절차를 넣는 것입니다. 금융 현장과 강의실에서 거듭 확인한 바로는, AI를 잘 활용한다는 것은 답을 빨리 받는 일이 아니라 더 나은 질문을 만들고, 결과를 검증하며, 최종 판단의 책임을 사람이 지는 일입니다.

 

다음 편에서는 기업분석, 금융생활 점검, 콘텐츠 제작처럼 복잡한 작업을 여러 단계로 나누고, 앞 단계의 결과를 다음 질문으로 연결하는 방법을 다룹니다.

 

이번 글은 1편의 내용을 바탕으로 이어집니다.

아직 1편을 읽지 않으셨다면, 아래의 ‘바로 보기’를 통해 먼저 확인해 보시기 바랍니다.

 

바로보기: 여러 AI 도구, 어떻게 연결해 활용할까 :: 실전 금융 톡톡

여러 AI 도구, 어떻게 연결해 활용할까

 

 

다음 편 미리보기 (3편) 복잡한 업무는 어떻게 단계별로 질문해야 할까
— 한 번의 긴 질문보다 효과적인 순차 질문법

 

---

안내사항

 

이 글은 생성형 AI 활용 방법을 소개하기 위한 교육·정보 목적의 글입니다.

AI 답변에는 오류, 누락, 해석 차이와 자료 반영 시차가 있을 수 있습니다.

 

금융, 투자, 세금, 정책, 법률처럼 중요한 판단이 필요한 내용은 관계기관의 공식자료와 전문가 상담을 통해 다시 확인하시기 바랍니다. 개인정보, 고객정보, 계좌번호, 비밀번호, 기업의 비공개 자료와 기관 내부자료는 외부 생성형 AI에 입력하지 마십시오.

 

필자는 금융기관 재직 이력과 현직 금융연수원 강의 경험을 바탕으로 이 글의 주제 선정·내용 구성·판단 및 최종 문안을 직접 작성하였습니다.