목록으로
교육·학습을 위한 AI 활용
보내기 전, 한 번 더 — 청소년 말 습관을 돕는 휴대폰 안 AI '말끔'
보내기 전에 스스로 멈추게 돕는 청소년 글쓰기 도우미 — AI로 만들고, 직접 학습시킨 한국어 AI가 휴대폰 안에서만 돌아갑니다
🤖 활용 AI 도구
Claude Code(Anthropic Claude), KoELECTRA-small(직접 학습시킨 한국어 AI, 휴대폰 안에서 실행)
▶ 바로 써 보기: https://malkkeum-beta.vercel.app (휴대폰·PC 브라우저에서 설치 없이 열림)
① 어떤 상황에서 AI를 활용했나요?
청소년 자녀가 학교 활동에서 '단톡방·SNS 댓글의 거친 말'을 주제로 고민하는 것을 옆에서 보며 시작했습니다. 청소년 10명 중 4명(42.7%)이 사이버폭력을 경험하지만(방송통신위원회·한국지능정보사회진흥원, 2024 사이버폭력 실태조사), 지금의 대응인 신고·차단·삭제는 모두 말이 상대에게 전달된 뒤에 작동합니다. 보내기 전에 한 번 멈춰 주는 장치는 없었습니다.
직접 만들어 보니 두 가지 벽이 있었습니다. 첫째, 한국어 욕은 'ㅅ*', '시*발'처럼 바꿔 쓰고, "너 없으면 분위기 좋을 듯"처럼 욕 한마디 없이도 상처를 주는 말이 많아 단어 목록만으로는 잡을 수 없었습니다. 둘째, 청소년의 대화를 외부 AI 서버로 보내 검사하는 것은 개인정보 면에서 맞지 않았습니다. 그래서 '쓰는 동안 알려 주고, 검사는 전부 휴대폰 안에서 하는 도구'를 AI와 함께 만들기로 했습니다.
② 어떤 AI를 어떻게 활용했나요?
[만들기 — Claude Code] AI 코딩 도구 Claude Code와 대화하며 기획부터 검증까지 진행했습니다. 제가 원칙("막지 않고 알려 준다")과 기능을 정하면 AI가 코드를 쓰고, 제가 직접 써 보며 고칠 점을 다시 지시하는 방식입니다. 이렇게 바꿔 쓴 욕까지 같은 말로 보는 규칙 검사기(용어 231개·맞춤법 91개)와 자동 테스트 133개를 만들었습니다.
[AI 학습 — KoELECTRA] 규칙이 못 잡는 '욕 없는 상처'를 위해 한국어 소형 언어모델 KoELECTRA-small(약 1,400만 매개변수)을 직접 미세조정했습니다. 공개 데이터 K-MHaS·BEEP!(뉴스 댓글 86,558문장)에 AI로 만든 청소년 말투 예시 1,013문장을 더했습니다. 첫 모델은 청소년 대화에 약해(검증 F1 0.57) 오답을 분석하며 예시를 보강해 세 번 더 학습했고(최종 F1 0.79), 정상 문장을 잘못 표시하는 비율도 16.7%에서 10.8%로 줄였습니다.
[휴대폰 안 실행] 모델을 int8로 줄여(55MB→14MB) 브라우저 안에서 돌립니다. 규칙(즉시·설명 가능)과 AI(문맥)를 나눠, 규칙이 못 잡은 문장에만 AI가 "한 번 더 볼까요?"를 표시합니다.
[결과 활용] 막지 않고 알려 주기만 합니다. AI 판단은 '보통·강함'으로만 보여 주고(점수를 %로 보여 주면 틀린 경고도 확실해 보이기 때문), '왜?'를 누르면 AI가 주목한 말을 짚어 줍니다. 마지막 판단은 쓰는 사람이 합니다.
③ 활용 결과 어떤 변화가 있었나요?
- 결과물: 설치·가입·비용 없는 웹앱 '말끔' 베타(https://malkkeum-beta.vercel.app). 보내기 전 점검 / 받은 말 살펴보기(117·1388 연결) / 말 바꾸기 연습 / 나의 기록 4개 화면, 홈 화면 설치와 오프라인 사용을 지원합니다.
- AI를 더한 효과: 학습에 쓰지 않은 청소년 대화 검증 223문장으로 비교했습니다. 욕 없이 상처 주는 문장(103개)을 규칙만으로는 6.8% 찾았지만, 규칙+AI로는 71.8%를 찾았습니다. 정상 문장(120개)을 잘못 표시한 비율은 10.8%이고, 노골적인 욕 문장은 규칙이 97.9%를 잡습니다. 장애·외국인·성별 같은 집단을 중립적으로 말한 정상 문장 9개는 하나도 걸리지 않았습니다.
- 개인정보: 쓴 글은 저장·전송하지 않고, 브라우저 보안 정책으로 외부 서버와의 통신 자체를 막았습니다.
- 베타 테스트: 청소년·보호자 대상 7일 베타 테스트를 준비했습니다. 글 내용 없이 숫자만 모아 '보내기 전 한 번 더' 알림 뒤 다시 고친 비율을 측정하고, 결과는 10월 초 이 글에 추가하겠습니다.
④ 나만의 방식 또는 개선 포인트는 무엇인가요?
1. '보내기 전' 개입: 상처가 될 말이 남아 있으면 복사하기 전에 "받는 사람이라면 어떤 기분일까요?"를 묻습니다. 친구랑/학교·커뮤니티/공식 제출마다 기준이 다릅니다.
2. 개인정보가 나가지 않는 AI: AI까지 휴대폰 안에서 돌리고 외부 통신을 차단했습니다. 기록은 숫자만 남깁니다.
3. 규칙과 AI의 역할 분담: 둘이 같은 문장을 잡으면 AI 표시는 생략해 알림 피로를 줄였습니다.
4. 받는 사람 편에서도: 받은 메시지의 위험도를 4단계로 알려 주고 117·1388·109·디지털성범죄피해자지원센터로 연결하며, 신고용 기록 메모를 만들어 줍니다.
5. AI를 안전하게 쓰는 습관: 고칠 말이 떠오르지 않으면 연락처·학교명을 자동으로 가린 'AI 부탁 문장'을 만들어 줍니다.
6. 정직한 평가: 검증 문장을 학습과 분리하고 틀린 사례까지 공개했습니다. 평가 중 규칙 검사기의 오탐 버그('조정·조절'을 욕으로 인식)를 찾아 고쳤습니다.
⑤ 다른 사람도 따라 할 수 있나요?
네. 쓰는 사람은 주소만 열면 되고 설치·가입·비용이 없습니다. 만드는 과정도 (1) AI 코딩 도구와 대화로 규칙 정리 → (2) 공개 데이터와 '우리 상황' 예시로 소형 모델 미세조정(노트북 CPU로 약 20분) → (3) 경량화해 브라우저에서 실행 → (4) 베타 제보로 보완, 네 단계라 학교 동아리나 정보 수업 프로젝트로 재현할 수 있습니다. 사용한 모델·데이터는 모두 공개 라이선스(Apache-2.0, CC BY-SA 4.0)입니다.
※ AI 활용 범위: 코드·규칙 사전 초안·청소년 말투 예시·학습 스크립트·이 글의 초안은 Claude(Claude Code)로 작성했고, 문제 정의·원칙과 기능 결정·결과 확인·최종 판단은 제가 했습니다.
① 어떤 상황에서 AI를 활용했나요?
청소년 자녀가 학교 활동에서 '단톡방·SNS 댓글의 거친 말'을 주제로 고민하는 것을 옆에서 보며 시작했습니다. 청소년 10명 중 4명(42.7%)이 사이버폭력을 경험하지만(방송통신위원회·한국지능정보사회진흥원, 2024 사이버폭력 실태조사), 지금의 대응인 신고·차단·삭제는 모두 말이 상대에게 전달된 뒤에 작동합니다. 보내기 전에 한 번 멈춰 주는 장치는 없었습니다.
직접 만들어 보니 두 가지 벽이 있었습니다. 첫째, 한국어 욕은 'ㅅ*', '시*발'처럼 바꿔 쓰고, "너 없으면 분위기 좋을 듯"처럼 욕 한마디 없이도 상처를 주는 말이 많아 단어 목록만으로는 잡을 수 없었습니다. 둘째, 청소년의 대화를 외부 AI 서버로 보내 검사하는 것은 개인정보 면에서 맞지 않았습니다. 그래서 '쓰는 동안 알려 주고, 검사는 전부 휴대폰 안에서 하는 도구'를 AI와 함께 만들기로 했습니다.
② 어떤 AI를 어떻게 활용했나요?
[만들기 — Claude Code] AI 코딩 도구 Claude Code와 대화하며 기획부터 검증까지 진행했습니다. 제가 원칙("막지 않고 알려 준다")과 기능을 정하면 AI가 코드를 쓰고, 제가 직접 써 보며 고칠 점을 다시 지시하는 방식입니다. 이렇게 바꿔 쓴 욕까지 같은 말로 보는 규칙 검사기(용어 231개·맞춤법 91개)와 자동 테스트 133개를 만들었습니다.
[AI 학습 — KoELECTRA] 규칙이 못 잡는 '욕 없는 상처'를 위해 한국어 소형 언어모델 KoELECTRA-small(약 1,400만 매개변수)을 직접 미세조정했습니다. 공개 데이터 K-MHaS·BEEP!(뉴스 댓글 86,558문장)에 AI로 만든 청소년 말투 예시 1,013문장을 더했습니다. 첫 모델은 청소년 대화에 약해(검증 F1 0.57) 오답을 분석하며 예시를 보강해 세 번 더 학습했고(최종 F1 0.79), 정상 문장을 잘못 표시하는 비율도 16.7%에서 10.8%로 줄였습니다.
[휴대폰 안 실행] 모델을 int8로 줄여(55MB→14MB) 브라우저 안에서 돌립니다. 규칙(즉시·설명 가능)과 AI(문맥)를 나눠, 규칙이 못 잡은 문장에만 AI가 "한 번 더 볼까요?"를 표시합니다.
[결과 활용] 막지 않고 알려 주기만 합니다. AI 판단은 '보통·강함'으로만 보여 주고(점수를 %로 보여 주면 틀린 경고도 확실해 보이기 때문), '왜?'를 누르면 AI가 주목한 말을 짚어 줍니다. 마지막 판단은 쓰는 사람이 합니다.
③ 활용 결과 어떤 변화가 있었나요?
- 결과물: 설치·가입·비용 없는 웹앱 '말끔' 베타(https://malkkeum-beta.vercel.app). 보내기 전 점검 / 받은 말 살펴보기(117·1388 연결) / 말 바꾸기 연습 / 나의 기록 4개 화면, 홈 화면 설치와 오프라인 사용을 지원합니다.
- AI를 더한 효과: 학습에 쓰지 않은 청소년 대화 검증 223문장으로 비교했습니다. 욕 없이 상처 주는 문장(103개)을 규칙만으로는 6.8% 찾았지만, 규칙+AI로는 71.8%를 찾았습니다. 정상 문장(120개)을 잘못 표시한 비율은 10.8%이고, 노골적인 욕 문장은 규칙이 97.9%를 잡습니다. 장애·외국인·성별 같은 집단을 중립적으로 말한 정상 문장 9개는 하나도 걸리지 않았습니다.
- 개인정보: 쓴 글은 저장·전송하지 않고, 브라우저 보안 정책으로 외부 서버와의 통신 자체를 막았습니다.
- 베타 테스트: 청소년·보호자 대상 7일 베타 테스트를 준비했습니다. 글 내용 없이 숫자만 모아 '보내기 전 한 번 더' 알림 뒤 다시 고친 비율을 측정하고, 결과는 10월 초 이 글에 추가하겠습니다.
④ 나만의 방식 또는 개선 포인트는 무엇인가요?
1. '보내기 전' 개입: 상처가 될 말이 남아 있으면 복사하기 전에 "받는 사람이라면 어떤 기분일까요?"를 묻습니다. 친구랑/학교·커뮤니티/공식 제출마다 기준이 다릅니다.
2. 개인정보가 나가지 않는 AI: AI까지 휴대폰 안에서 돌리고 외부 통신을 차단했습니다. 기록은 숫자만 남깁니다.
3. 규칙과 AI의 역할 분담: 둘이 같은 문장을 잡으면 AI 표시는 생략해 알림 피로를 줄였습니다.
4. 받는 사람 편에서도: 받은 메시지의 위험도를 4단계로 알려 주고 117·1388·109·디지털성범죄피해자지원센터로 연결하며, 신고용 기록 메모를 만들어 줍니다.
5. AI를 안전하게 쓰는 습관: 고칠 말이 떠오르지 않으면 연락처·학교명을 자동으로 가린 'AI 부탁 문장'을 만들어 줍니다.
6. 정직한 평가: 검증 문장을 학습과 분리하고 틀린 사례까지 공개했습니다. 평가 중 규칙 검사기의 오탐 버그('조정·조절'을 욕으로 인식)를 찾아 고쳤습니다.
⑤ 다른 사람도 따라 할 수 있나요?
네. 쓰는 사람은 주소만 열면 되고 설치·가입·비용이 없습니다. 만드는 과정도 (1) AI 코딩 도구와 대화로 규칙 정리 → (2) 공개 데이터와 '우리 상황' 예시로 소형 모델 미세조정(노트북 CPU로 약 20분) → (3) 경량화해 브라우저에서 실행 → (4) 베타 제보로 보완, 네 단계라 학교 동아리나 정보 수업 프로젝트로 재현할 수 있습니다. 사용한 모델·데이터는 모두 공개 라이선스(Apache-2.0, CC BY-SA 4.0)입니다.
※ AI 활용 범위: 코드·규칙 사전 초안·청소년 말투 예시·학습 스크립트·이 글의 초안은 Claude(Claude Code)로 작성했고, 문제 정의·원칙과 기능 결정·결과 확인·최종 판단은 제가 했습니다.
