본문 바로가기
1강: AI는 거짓말쟁이? 팩트체크 배틀
STAGE 01 · 퀘스트 미션 브리핑

끝말잇기 천재 AI의 그럴듯한 거짓말을 체포하라!

"세종대왕이 훈민정음을 만들다가 화가 나서 맥북 프로를 던졌다고요?!"
인공지능에게 물어보면 놀랍게도 너무나 진지하고 그럴듯한 말투로 이런 엉터리 역사를 설명해 주곤 했습니다. AI는 만능 천재 백과사전이 아니라, 세상에서 끝말잇기를 가장 잘하는 수다쟁이 앵무새이기 때문입니다!

목표 1. 환각 원리 발견

AI가 왜 모르는 것도 아는 척 거짓말을 하는지 내부 원리를 밝혀냅니다.

목표 2. 실시간 대화 배틀

자체 챗봇 시뮬레이터에서 팩트체크 반격으로 AI의 항복을 받아냅니다.

목표 3. 실제 AI 5대 함정

최신 ChatGPT·Gemini 창을 띄워 5대 킬러 프롬프트로 직접 실험합니다.

AI의 생각 엔진 들여다보기

AI는 사실을 아는 것이 아니라, 가장 어울리는 '다음 단어'를 고를 뿐이다!

컴퓨터에게 질문을 던졌을 때 AI의 뇌 속에서는 무슨 일이 일어날까요? 인간처럼 진짜 역사를 이해하는 것이 아니라, 수많은 책에서 배운 통계를 바탕으로 확률 주사위를 굴립니다.

1

끝말잇기 확률 주사위

"오늘 아침에 밥을 [ ? ]"
AI는 빈칸에 '먹었다(80%)', '남겼다(15%)'처럼 가장 확률이 높은 단어를 골라 문장을 완성합니다.

2

모르는 것도 지어낸다

"세종대왕 맥북 사건 알려줘"
AI는 "모릅니다"라고 멈추지 못하고, '맥북'과 '세종대왕'에 어울리는 가짜 단어들을 억지로 이어붙입니다!

3

위험한 환각(Hallucination)

AI는 거짓말을 할 때도 "조선왕조실록에 따르면~"처럼 엄청나게 공손하고 학술적인 말투를 써서 사람을 속입니다.

주니어 개발자의 팩트체크 제1원칙

"AI가 아무리 똑똑하고 정중하게 대답해도, 숫자·연도·역사 인물·과학적 사실은 반드시 내가 직접 백과사전이나 공인 출처로 더블 체크(교차 검증)해야 한다!"