>생성형 AI·프롬프트·환각, AI 낱말을 생활 예로 풀기

뉴스와 광고에 ‘생성형 AI’, ‘프롬프트’, ‘온디바이스 AI’ 같은 말이 매일 나오지만 뜻을 물어볼 곳이 마땅치 않습니다. 이 글은 자주 쓰이는 AI 낱말 여덟 개를 법률의 정의와 공공기관의 용어집을 근거로 생활 속 예에 빗대어 풀어 씁니다. 전문가가 되기 위한 글이 아니라, 아들딸이나 손주와 이야기할 때 말뜻을 놓치지 않을 정도를 목표로 합니다.

인공지능과 생성형 인공지능

2026년 1월 22일 시행된 인공지능기본법은 인공지능을 “학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것”으로 정의합니다. 그중 생성형 인공지능은 “입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템”입니다.^[1]

쉽게 말하면 예전 AI는 사진을 보고 “이것은 고양이”라고 알아맞히는 쪽이었고, 생성형 AI는 “고양이 그림을 그려 줘”라고 하면 새 그림을 만들어 내는 쪽입니다. 한국지능정보사회진흥원 용어집도 기존 인식형 AI가 분석·분류를 하는 것과 달리 생성형 AI는 학습한 패턴을 바탕으로 새 콘텐츠를 만든다고 설명합니다.^[2] 요리로 비유하면 인식형은 음식 사진을 보고 메뉴 이름을 맞히는 것, 생성형은 냉장고 재료를 듣고 새 요리를 내놓는 것입니다.

프롬프트, 학습 데이터, 토큰

프롬프트는 사람이 AI에게 넣는 질문이나 지시 문장입니다. TTA 정보통신용어사전은 ChatGPT 같은 대규모 언어 모델이 입력받는 텍스트나 질문을 프롬프트라 하고, 더 좋은 답을 얻기 위해 이 문장을 다듬는 일을 ‘프롬프트 엔지니어링’이라 부른다고 설명합니다. 사전이 든 예가 쉽습니다. “단호박과 치즈를 이용한 요리법을 알려줘”보다 “단호박과 치즈를 주요 재료로 사용하는 간단하고 맛있는 요리법을 단계별로 설명해줘”가 더 나은 답을 끌어낸다는 것입니다.^[3] 식당에서 “뭐 맛있는 거”라고 하는 것과 “맵지 않은 국물 요리로 둘이 먹을 양”이라고 주문하는 것의 차이와 같습니다.

학습용 데이터는 법률 정의로는 “인공지능의 개발·활용 등에 사용되는 데이터”입니다.^[1] AI가 답을 만들기 전에 읽고 익힌 글·그림·소리의 묶음이라고 보면 됩니다. 요리사가 수십 년 먹고 만들어 본 음식의 기억이 학습 데이터라면, 그 기억에 없는 음식은 흉내만 내게 됩니다. 토큰은 AI가 글을 처리하기 위해 문장을 잘게 나눈 조각으로, 용어집은 이 수가 모델이 한 번에 다룰 수 있는 양과 이용 비용을 정한다고 설명합니다.^[2] 긴 글을 넣으면 앞부분을 잊는 듯한 모습이 나오는 이유가 여기 있습니다.

환각, 온디바이스 AI, 딥페이크

환각은 AI가 “사실과 다르거나 존재하지 않는 정보를 그럴듯하게 생성하는 현상”입니다. 용어집은 생성형 AI가 사실을 재현하는 것이 아니라 가능성이 높은 문장을 이어 가는 구조라서, 학습 자료에 없거나 불완전한 내용을 물으면 빈 곳을 추론으로 채우며 오류가 생긴다고 설명합니다. AI가 자신 있게 말해도 근거가 없을 수 있다는 점이 핵심입니다.^[2] Google도 검색의 AI 개요 도움말에 “AI 대답에는 오류가 있을 수 있습니다”라고 적고 중요한 정보는 두 곳 이상에서 확인하라고 권합니다.^[5]

그래서 약 이름, 법 조문, 연금 금액처럼 틀리면 손해가 큰 내용은 AI 답을 출발점으로만 쓰고 공식 기관이나 전문가에게 확인합니다. 모르는 것을 물을 때 “모르면 모른다고 답해 줘”라고 덧붙이면 조금 낫지만, 그래도 틀릴 수 있습니다.

온디바이스 AI는 AI 계산을 멀리 있는 서버가 아니라 전화기나 가전 같은 기기 안에서 직접 하는 방식입니다. 과학기술정보통신부는 “인터넷 연결 없이 디바이스 자체에서 데이터를 분석하고 판단하는 기술로, 빠른 응답성과 높은 보안성이 강점”이라고 설명하고, 이를 돕는 반도체를 신경망처리장치(NPU)라고 부릅니다.^[4] 용어집은 데이터를 밖으로 보내지 않아 개인정보 유출 위험을 줄이고 통신이 불안정해도 동작한다고 덧붙입니다.^[2]

딥페이크는 사람의 얼굴·목소리·행동을 AI가 학습해 실제처럼 재현하거나 바꾸는 기술을 뜻하는 말로, 용어집은 허위 정보와 사생활 침해 같은 문제를 함께 짚습니다.^[2] 법률에는 고영향 인공지능이라는 말도 있는데, 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 영역(보건의료, 채용·대출 심사 등)에서 쓰이는 AI를 가리킵니다.^[1]

낱말을 안다고 AI를 잘 쓰게 되는 것은 아니지만, 적어도 “환각이 있을 수 있다”, “내가 넣은 글이 학습 데이터가 될 수 있다”는 두 가지는 기억해 두면 좋습니다. 프롬프트를 실제로 어떻게 적는지는 AI에게 질문 잘하는 법, 상황·할 일·형식을 적습니다 글에 생활 예와 함께 정리했습니다.