목록으로
업무 생산성 개선을 위한 AI 활용
카카오톡 채널 상담, 5초 안에 답하는 AI 챗봇을 혼자 만들어 5개월 운영한 기록
카카오톡 채널로 들어오는 고객 문의에 Claude Haiku가 먼저 답하고, 5초 안에 못 답하거나 범위 밖이면 상담사에게 넘기도록 설계해 5개월간 하루 평균 7명을 사람 손 없이 응대했습니다.
🤖 활용 AI 도구
Claude Haiku (Anthropic)
① 어떤 상황에서 AI를 활용했나요?
카카오톡 채널로 들어오는 고객 문의를 응대하는 일이었습니다. Meta 광고로 들어온 문의(리드)만 146건이었습니다. 문의가 올 때마다 사람이 직접 답하는 대신, "AI가 먼저 답하고 사람이 꼭 필요한 문의만 상담사에게 넘긴다"는 목표로 카카오톡 채널 AI 자동응답 챗봇을 혼자 개발해 5개월 동안 운영했습니다.
② 어떤 AI를 어떻게 활용했나요?
답변 생성에는 응답이 빠른 Claude Haiku를 썼습니다. 만들면서 부딪힌 문제와 해결 방법은 세 가지였습니다.
1. 5초 제한: 카카오톡 챗봇은 5초 안에 응답을 돌려줘야 합니다. AI 답변이 길어지면 이 시간을 넘길 수 있어서, AI 호출에 4.5초 타임아웃을 걸었습니다. 4.5초 안에 답이 오면 그대로 보내고, 넘기면 미리 준비한 폴백(대체) 응답을 먼저 보낸 뒤 완성된 답변은 비동기로 SMS를 통해 전달했습니다. 고객 입장에서는 "답이 안 오는" 순간이 없도록 한 것입니다.
2. 자유 대화 대신 선택지형 대화: 아무 말이나 입력받으면 질문이 흩어지고 AI가 엉뚱한 답을 할 여지도 커집니다. 그래서 대화를 선택지(버튼) 중심으로 설계해 고객이 원하는 주제를 고르게 하고, AI는 그 범위 안에서 답하도록 했습니다.
3. 범위 밖은 사람에게: 챗봇이 다룰 수 없는 문의는 억지로 답하지 않고 상담사 연결로 넘기도록 했습니다. AI가 모르는 것을 아는 척하지 않게 하는 것이 가장 중요한 설계 원칙이었습니다.
③ 활용 결과 어떤 변화가 있었나요?
5개월 운영하는 동안 하루 평균 7명의 문의를 사람 손 없이 챗봇이 처리했습니다. 상담사는 챗봇이 넘긴 범위 밖 문의만 받으면 되는 구조가 됐습니다. 운영 중에는 알림톡 지표와 수신거부를 분석해 메시지 운영을 점검했습니다.
④ 나만의 방식 또는 개선 포인트는 무엇인가요?
- AI 답변 품질보다 "제때 답이 나가는 구조"를 먼저 만들었습니다. 4.5초 타임아웃 → 폴백 응답 → 비동기 SMS 순서의 3단 구조 덕분에 AI가 느린 순간에도 고객 응대가 끊기지 않았습니다.
- 선택지형 대화로 AI가 답하는 범위를 좁혔습니다. 빠른 응답이 중요한 상황이라 큰 모델 대신 응답이 빠른 Haiku를 고르고, 대신 질문의 범위를 설계로 좁혀 준 것입니다.
- AI가 답하지 않을 영역(범위 밖 문의)을 처음부터 정해 두고 사람에게 넘겼습니다. 자동화의 목표를 "사람을 없애는 것"이 아니라 "사람이 필요한 곳에만 사람을 쓰는 것"으로 잡았습니다.
⑤ 다른 사람도 따라 할 수 있나요?
네. 카카오톡 채널을 운영하는 소상공인이나 1인 사업자도 같은 순서로 적용할 수 있습니다.
1. 지난 상담 기록에서 자주 오는 질문을 골라 선택지(버튼) 메뉴로 만든다.
2. 각 선택지 안에서만 AI가 답하도록 범위를 정하고, 범위 밖 질문은 "상담사 연결"로 보낸다.
3. 플랫폼의 응답 시간 제한(카카오톡 챗봇은 5초)보다 조금 짧게 타임아웃을 걸고, 시간 초과 시 보낼 대체 문구와 나중에 답을 전달할 경로(SMS 등)를 준비한다.
4. 운영하면서 하루 처리 건수, 상담사로 넘어간 문의, 수신거부 같은 지표를 보고 선택지와 답변 범위를 고친다.
고객 상담에는 개인정보가 오가므로, 사례를 공유할 때는 고객 이름·연락처가 보이지 않게 가리고, AI가 확실하지 않은 내용은 답하지 않고 사람에게 넘기도록 하는 것을 권합니다.
카카오톡 채널로 들어오는 고객 문의를 응대하는 일이었습니다. Meta 광고로 들어온 문의(리드)만 146건이었습니다. 문의가 올 때마다 사람이 직접 답하는 대신, "AI가 먼저 답하고 사람이 꼭 필요한 문의만 상담사에게 넘긴다"는 목표로 카카오톡 채널 AI 자동응답 챗봇을 혼자 개발해 5개월 동안 운영했습니다.
② 어떤 AI를 어떻게 활용했나요?
답변 생성에는 응답이 빠른 Claude Haiku를 썼습니다. 만들면서 부딪힌 문제와 해결 방법은 세 가지였습니다.
1. 5초 제한: 카카오톡 챗봇은 5초 안에 응답을 돌려줘야 합니다. AI 답변이 길어지면 이 시간을 넘길 수 있어서, AI 호출에 4.5초 타임아웃을 걸었습니다. 4.5초 안에 답이 오면 그대로 보내고, 넘기면 미리 준비한 폴백(대체) 응답을 먼저 보낸 뒤 완성된 답변은 비동기로 SMS를 통해 전달했습니다. 고객 입장에서는 "답이 안 오는" 순간이 없도록 한 것입니다.
2. 자유 대화 대신 선택지형 대화: 아무 말이나 입력받으면 질문이 흩어지고 AI가 엉뚱한 답을 할 여지도 커집니다. 그래서 대화를 선택지(버튼) 중심으로 설계해 고객이 원하는 주제를 고르게 하고, AI는 그 범위 안에서 답하도록 했습니다.
3. 범위 밖은 사람에게: 챗봇이 다룰 수 없는 문의는 억지로 답하지 않고 상담사 연결로 넘기도록 했습니다. AI가 모르는 것을 아는 척하지 않게 하는 것이 가장 중요한 설계 원칙이었습니다.
③ 활용 결과 어떤 변화가 있었나요?
5개월 운영하는 동안 하루 평균 7명의 문의를 사람 손 없이 챗봇이 처리했습니다. 상담사는 챗봇이 넘긴 범위 밖 문의만 받으면 되는 구조가 됐습니다. 운영 중에는 알림톡 지표와 수신거부를 분석해 메시지 운영을 점검했습니다.
④ 나만의 방식 또는 개선 포인트는 무엇인가요?
- AI 답변 품질보다 "제때 답이 나가는 구조"를 먼저 만들었습니다. 4.5초 타임아웃 → 폴백 응답 → 비동기 SMS 순서의 3단 구조 덕분에 AI가 느린 순간에도 고객 응대가 끊기지 않았습니다.
- 선택지형 대화로 AI가 답하는 범위를 좁혔습니다. 빠른 응답이 중요한 상황이라 큰 모델 대신 응답이 빠른 Haiku를 고르고, 대신 질문의 범위를 설계로 좁혀 준 것입니다.
- AI가 답하지 않을 영역(범위 밖 문의)을 처음부터 정해 두고 사람에게 넘겼습니다. 자동화의 목표를 "사람을 없애는 것"이 아니라 "사람이 필요한 곳에만 사람을 쓰는 것"으로 잡았습니다.
⑤ 다른 사람도 따라 할 수 있나요?
네. 카카오톡 채널을 운영하는 소상공인이나 1인 사업자도 같은 순서로 적용할 수 있습니다.
1. 지난 상담 기록에서 자주 오는 질문을 골라 선택지(버튼) 메뉴로 만든다.
2. 각 선택지 안에서만 AI가 답하도록 범위를 정하고, 범위 밖 질문은 "상담사 연결"로 보낸다.
3. 플랫폼의 응답 시간 제한(카카오톡 챗봇은 5초)보다 조금 짧게 타임아웃을 걸고, 시간 초과 시 보낼 대체 문구와 나중에 답을 전달할 경로(SMS 등)를 준비한다.
4. 운영하면서 하루 처리 건수, 상담사로 넘어간 문의, 수신거부 같은 지표를 보고 선택지와 답변 범위를 고친다.
고객 상담에는 개인정보가 오가므로, 사례를 공유할 때는 고객 이름·연락처가 보이지 않게 가리고, AI가 확실하지 않은 내용은 답하지 않고 사람에게 넘기도록 하는 것을 권합니다.