AI 답변 믿어도 될까: 사실 확인하는 법

한눈에 요약

• AI는 틀린 내용을 자신 있게 말할 때가 있어요. 이것을 환각(hallucination)이라고 불러요.
• AI 하나만 유일한 정보원으로 삼지 마세요. Anthropic 도움말도 이렇게 안내해요.
• 숫자, 날짜, 이름, 인용문, 건강·돈·법률 관련 내용은 꼭 직접 확인하세요.
• 질문할 때 “모르면 모른다고 해줘”, “근거를 같이 보여줘”를 붙이면 도움이 돼요.

이 튜토리얼로 할 수 있게 되는 것

• AI가 틀릴 수 있는 이유와 특히 조심할 내용을 알 수 있어요.
• 질문 문장을 바꿔 잘못된 답이 나올 가능성을 줄일 수 있어요.
• 중요한 답을 3분 안에 확인하는 순서를 익힐 수 있어요.

먼저 알아둘 개념

Anthropic 도움말에 따르면 Claude는 틀렸거나 오해를 부르는 답을 낼 수 있고, 이를 “hallucinating”이라고 불러요. 지금의 생성형 AI가 가진 한계에서 오는 현상이고, 이유로는 이런 것들을 들어요.

• 학습한 자료가 오래됐을 수 있어요. 그래서 최근 일은 헷갈릴 수 있어요.
• 권위 있어 보이는 인용문을 내놓았는데 실제 근거가 없는 경우가 있어요.

핵심은 말투예요. 틀린 답도 확신에 찬 말투로 나올 수 있어서, 말투만으로는 맞고 틀림을 알 수 없어요.

더 확인해야 하는 내용

Anthropic 도움말은 틀리면 문제가 되는 조언은 꼼꼼히 확인하라고 안내해요. 건강, 돈, 법률, 계약, 시험·논문 인용, 숫자와 날짜가 여기에 들어가요.

단계별 따라하기

0/4 완료

• 질문에 "모르면 모른다고 해줘"를 넣어 봤어요
• 답에서 확인할 부분(숫자, 이름, 날짜)을 골랐어요
• 출처를 요청하고 원문을 직접 열어 봤어요
• 다른 방법으로 한 번 더 확인했어요

1. 모른다고 말해도 된다고 알려 주기

   Anthropic 공식 문서는 AI에게 불확실함을 인정해도 된다고 허락하는 것만으로도 잘못된 정보가 크게 줄 수 있다고 설명해요.

   이 프롬프트를 복사해서 붙여넣으세요복사

   확실하지 않은 부분이 있으면 지어내지 말고 “확실하지 않아요”라고 말해줘. 그리고 어느 부분이 확실하지 않은지도 알려줘.

2. 자료를 주고 그 안에서만 답하게 하기

   기사나 문서를 붙여 넣고 질문한다면 자료 안의 내용만 쓰게 하세요. 공식 문서도 제공한 자료만 쓰게 하는 방법을 소개해요.

   이 프롬프트를 복사해서 붙여넣으세요복사

   아래 글만 보고 요약해줘. 글에 없는 내용은 쓰지 말고, 없으면 “글에 없음”이라고 적어줘.

   [글 붙여넣기]

3. 근거를 같이 달라고 하기

   공식 문서는 AI가 한 말마다 근거 문장을 달게 하고, 근거를 못 찾으면 그 주장을 빼게 하는 방법을 안내해요.

   이 프롬프트를 복사해서 붙여넣으세요복사

   답의 각 주장마다 근거가 된 문장이나 출처를 같이 적어줘. 근거를 못 찾으면 그 주장은 빼줘.

4. 출처는 직접 열어서 확인하기

   웹 검색 결과를 바탕으로 한 답이라면 Anthropic 도움말은 원래 사이트를 확인하라고 안내해요. 요약에는 빠진 맥락이 있을 수 있기 때문이에요. 링크가 정말 열리는지, 내용이 AI의 설명과 맞는지 보세요.

   이 단계에서 보게 될 화면

   답변 속 출처를 눌러 원문을 확인하는 화면

   Anthropic 도움말에서 보기 ↗

   실제 화면은 서비스 업데이트에 따라 다를 수 있어요

5. 다시 물어서 비교하기

   공식 문서는 같은 질문을 여러 번 해서 답이 서로 다른지 비교해 보라고 해요. 답이 매번 다르면 지어냈을 가능성이 있어요. 후속 질문으로 검증을 시키는 방법도 있어요.

   이 프롬프트를 복사해서 붙여넣으세요복사

   방금 답에서 틀렸을 가능성이 있는 부분이 있는지 스스로 점검해줘.

6. 믿을 만한 다른 곳과 대조하기

   중요한 내용은 공공기관, 공식 사이트, 전문가처럼 책임지는 곳에서 한 번 더 확인하세요. AI의 자기 점검도 완벽하지 않아요.

참고

Anthropic 공식 문서도 이런 방법이 잘못된 정보를 크게 줄이지만 완전히 없애지는 못한다고 밝혀요. 중요한 결정에는 항상 직접 확인하세요.

빠른 참조표

내용	확인 정도
아이디어, 초안, 말투 다듬기	읽어 보고 쓰면 충분해요
숫자, 날짜, 사람·회사 이름	원본에서 확인하세요
인용문, 책·논문, 법 조항	실제로 있는지 직접 찾아보세요
건강, 돈, 법률, 계약	전문가나 공식 기관에서 꼭 확인하세요
최근 소식	최신 자료를 직접 확인하세요

자주 막히는 지점

AI가 준 링크를 열었더니 없는 페이지예요

• 원인: 근거처럼 보이지만 실제로는 없는 출처를 만들어 냈을 수 있어요.
• 해결: 링크 대신 제목이나 기관 이름으로 직접 검색해 보세요. 못 찾으면 그 내용은 믿지 마세요.

따져 물었더니 AI가 바로 말을 바꿔요

• 원인: 맞는 말인데도 물으면 사과하며 바꿀 수 있어요. 말이 바뀐 것만으로는 어느 쪽이 맞는지 알 수 없어요.
• 해결: 어느 쪽이든 공식 자료로 확인하세요.

확인하는 데 시간이 너무 오래 걸려요

• 원인: 모든 문장을 확인하려 하기 때문이에요.
• 해결: 틀리면 곤란한 부분(숫자, 이름, 날짜, 결론)만 골라 확인하세요.

최근 일을 물었는데 이상한 답이 나와요

• 원인: 학습 자료가 오래됐을 수 있어요.
• 해결: 웹 검색을 쓸 수 있는 기능이 있는지 확인하고, 뉴스는 원문 사이트에서 읽으세요.

실전 팁

• AI는 초안과 아이디어에 강한 도구로 쓰고, 최종 확인은 내가 하세요.
• 틀린 답을 발견하면 도구에 있는 피드백(엄지 아래) 버튼으로 알릴 수 있어요. Anthropic 도움말이 이렇게 안내해요.
• 2편에서 만든 계정으로 같은 질문을 다른 AI에도 해 보면 차이를 알 수 있어요.

다음에 볼 튜토리얼

• 3. 질문 잘하는 법 기초 — 처음부터 덜 틀리게 묻기
• 실무 프롬프트 작성법 — “자료에 없으면 확인 필요” 같은 제약 쓰기
• C4. 프롬프트 잘 쓰는 법 — 공식 가이드 상세