① 어떤 상황에서 AI를 활용했나요?
환율이 오르면 직구 물건값이 얼마나 오를지 궁금했는데, 관련 뉴스를 매일 읽는 건 불가능해서 AI에게 기사 요약을 맡겼습니다.
몇 달 뒤 이상한 걸 발견했습니다. 어느 해외 투자은행이 "연말 환율 1,600원대"라고 전망했다는 기록이 남아 있었는데, 기사 원문에 그 은행 이름이 없었습니다. 숫자를 지어낸 게 아니라, 그 숫자를 말한 사람이 달랐습니다. 그리고 두 달 동안 몰랐습니다. 숫자만 보면 멀쩡해 보이니까요.

② 어떤 AI를 어떻게 활용했나요?
생성형 AI로 매일 경제 기사를 요약하게 하되, 검사 절차를 먼저 붙였습니다.
하나, 대화 맨 앞에 지침을 붙입니다. "숫자·날짜·기관명은 문서에 있는 것만 쓴다 / 숫자마다 근거 문장을 그대로 인용해 붙인다 / 문서끼리 다르면 둘 다 적고 누가 언제 발표했는지 표시한다."
둘, 받은 답을 세 문장으로 되묻습니다.
① "이 숫자가 원문 어디에 있는지, 그 문장을 그대로 인용해 주세요."
② "원문에 없으면 없다고 말해 주세요. 비슷한 숫자로 대신하지 마세요."
③ "이 내용을 발표한 기관과 발표일을 알려 주세요."
셋, 확인된 것과 확인 못 한 것을 나눠 적습니다. 확인 못 한 줄은 지우지 않고 남깁니다.

③ 활용 결과 어떤 변화가 있었나요?
3개월간 AI가 쓴 숫자 15,976개 중 15,963개가 원문에서 확인됐고, 13개가 "미확인"으로 남았습니다. 중요한 건 99.9%가 아니라 13입니다. 0이었다면 검사가 잘 되는 게 아니라 작동하지 않는다는 뜻입니다.
효과도 직접 재봤습니다. 기사 30건에 같은 질문을 두 방식(그냥 묻기 / 지침+인용 요구)으로 던지고 나온 숫자 690개를 전부 원문과 대조했더니 — 지어낸 숫자는 양쪽 다 0개였습니다. 제 걱정이 반쯤 틀렸습니다.
대신 훨씬 위험한 걸 찾았습니다. 원문이 US$30.72 billion(=307.2억 달러)인데 그냥 물었을 때의 답은 "30.72억 달러", 100배가 틀렸습니다. 그런데 30.72가 원문에 있어서 기계 검사를 그대로 통과했습니다. 인용을 요구한 쪽은 원문 문장을 함께 줘서 3초 만에 드러났습니다.

④ 나만의 방식 또는 개선 포인트는 무엇인가요?
"요약을 시키지 말고 인용을 시킨다." 요약은 지어낼 수 있지만, 인용은 문장 전체를 지어내야 해서 훨씬 티가 납니다.
그리고 측정으로 생각이 바뀌었습니다. AI의 위험은 "없는 숫자를 만드는 것"에서 "있는 숫자를 잘못 붙이는 것"으로 옮겨갔습니다. 단위를 잘못 붙이고, 말한 사람을 잘못 붙이고, 시점을 잘못 붙입니다. 숫자만 봐서는 안 보이고, 그 숫자가 나온 문장을 받아야 보입니다.
제 검사기도 같은 함정에 빠졌습니다. 첫 계산은 "그냥 물으면 33.3% 틀리고 인용을 요구하면 6.3%"였습니다. 제 주장에 딱 맞았습니다. 너무 잘 맞아서 원자료를 열어봤더니 대부분이 AI가 날짜 형식만 바꿔 쓴 것이었고, 고쳐서 다시 계산하니 0% 대 0%였습니다. 내 주장에 유리한 숫자가 나왔을 때가 가장 의심해야 할 순간이었습니다.
윤리는 나중이 아니라 설계에서 바꿨습니다. 영상 자막은 통째로 저장하지 않고 요약만 남겼고, 위 은행 이름도 적지 않습니다 — 원문에 없는 말을 다시 퍼뜨리게 되기 때문입니다.

⑤ 다른 사람도 따라 할 수 있나요?
프로그램도 코딩도 비용도 필요 없습니다. ②의 지침을 복사해 붙여넣고 세 문장으로 되물으면 됩니다. 기록은 메모장이면 충분합니다.
필요한 곳은 일상 문서입니다. 보험 약관(면책 조항 하나 빠지면 보험금을 못 받습니다), 건강검진 결과지(기준치 출처를 물으면 "일반적으로 알려진 수치"라는 답이 돌아오기도 합니다), 정부 지원금 안내(금액·마감일이 조금만 틀려도 신청을 놓칩니다).