>AI 답이 틀릴 수 있는 이유와 확인하는 습관

AI 비서는 어떤 질문에도 망설임 없이 또박또박 답합니다. 그래서 더 믿게 되는데, 공식 도움말을 보면 서비스를 만든 회사부터 “틀릴 수 있다”고 적어 두었습니다. 답을 받은 뒤 잠깐 확인하는 습관을 들이면 큰 실수를 줄일 수 있습니다. 무엇을 어떤 순서로 보는지 적었습니다.

회사도 틀릴 수 있다고 적어 두었습니다

Google은 Gemini 앱 도움말에서 이 서비스가 때때로 부정확하거나 부적절한 정보를 만들 수 있고, 특히 사람에 관한 답은 다시 확인하라고 안내합니다. 또 대답을 의료·법률·금융이나 그 밖의 전문적 조언으로 신뢰하지 말라고 못 박아 두었습니다.^[1] 개인 정보 보호 허브에도 같은 취지의 문장이 있습니다.^[3]

이런 서비스는 사람처럼 사실을 찾아 읽고 답하는 것이 아니라, 학습한 글을 바탕으로 다음에 올 말을 확률로 이어 가며 문장을 만듭니다. 한국저작권위원회의 생성형 AI 저작권 안내서도 생성형 AI가 쓴 글은 학습 자료의 편향과 확률에 기반한 생성 방식 때문에 내용 자체가 부정확할 수 있다고 설명합니다.^[4] 그래서 문장은 매끈한데 날짜나 금액, 기관 이름이 사실과 다른 경우가 생깁니다. 이렇게 그럴듯하게 지어낸 답을 도움말에서는 ‘할루시네이션’이라고 부릅니다.^[1]

특히 의심할 답

시점도 함께 의심합니다. AI는 학습을 마친 때까지의 글을 바탕으로 답하므로, 올해 바뀐 제도나 지난달 발표를 모른 채 옛 내용을 지금 것처럼 말할 수 있습니다. 숫자가 나오면 “이 숫자는 언제 기준인가요?”라고 되묻고, “모른다”거나 “확인이 필요하다”는 답이 나오면 그 말을 그대로 받아들여 공식 페이지로 갑니다.

반대로 틀려도 손해가 없는 일, 예컨대 편지 문장을 다듬거나 낱말 뜻을 쉽게 풀어 달라는 일은 비교적 마음 놓고 써도 됩니다. 돈이 오가거나 몸에 관한 일, 서류를 내는 일에만 확인 절차를 꼭 거친다고 정해 두면 부담이 줄어듭니다.

확인하는 순서

1. 출처를 묻습니다. 답을 받은 뒤 같은 창에 “이 내용의 출처가 어디인가요? 공식 기관 페이지 주소를 알려 주세요”라고 적습니다. Gemini 앱은 답 안이나 아래에 관련 출처 링크를 보여 줄 수 있고, ‘출처’ 버튼을 누르면 옆 패널에 링크 목록이 열립니다.^[2] 다른 서비스도 대개 답 아래에 링크나 각주를 붙입니다.
2. 링크를 직접 열어 봅니다. 주소가 go.kr, or.kr처럼 기관 주소인지 보고, 열린 페이지에 정말 그 내용이 있는지 읽습니다. 링크가 열리지 않거나 다른 내용이 나오면 그 답은 버립니다.
3. 숫자는 공식 페이지와 대조합니다. AI가 말한 금액이나 날짜를 그대로 믿지 말고, 해당 기관 누리집에서 같은 항목을 찾아 비교합니다. 다르면 공식 페이지가 맞습니다.
4. 중요한 일은 사람에게 묻습니다. 연금, 세금, 진료, 계약은 AI 답을 질문 정리용으로만 쓰고 결정은 공단·세무서·병원·전문가와 상의합니다. 질문을 정리할 때도 주민등록번호나 계좌번호 같은 개인정보는 넣지 않습니다.
5. 틀린 답은 알려 줍니다. Gemini 앱은 답 아래 ‘싫어요’ 버튼으로 의견을 보낼 수 있습니다.^[1] 신고가 바로 답을 고쳐 주지는 않지만 다음 사람에게 도움이 됩니다.

답을 다른 글에 옮길 때

AI가 써 준 글을 모임 안내문이나 블로그에 그대로 옮기는 분도 있습니다. 한국저작권위원회 안내서는 생성형 AI가 쓴 글을 인용하기 전에 출처를 확인하고, 자기 글과 구분해 AI를 썼다는 사실을 표시하는 것이 바람직하다고 권합니다. AI가 학습한 글과 비슷한 문장을 그대로 내보내면 표절이나 저작권 문제가 생길 수 있다는 점도 짚습니다.^[4] 공식 자료를 확인한 뒤 자기 말로 다시 쓰는 습관이 가장 안전합니다.

정리하면, AI 답은 ‘어디를 찾아보면 되는지 알려 주는 안내원’으로 쓰는 것이 맞습니다. 안내원이 가리킨 창구에 가서 확인하는 일은 여전히 본인이 해야 합니다. 다음에 숫자가 든 답을 받으면 그 숫자 하나만이라도 공식 페이지에서 찾아보는 것부터 시작해 보세요.