댓글 자동 답글, 만들면서 제일 무서웠던 것
요즘 블로그 댓글에 AI가 자동으로 답글을 다는 기능을 만들고 있어요. 편하긴 한데, 만들면서 제일 신경 쓴 건 딱 하나였어요. ‘AI가 모르는 걸 지어내면 어떡하지?’
생각해보세요. 손님이 댓글로 ‘가격 얼마예요?’라고 물었는데, AI는 그 가게 사정을 전혀 모르잖아요. 그런데 그럴듯하게 ‘5만 원입니다~’ 이런 식으로 답을 만들어내면? 자동 발송이 켜져 있으면 그대로 나가버려요. 답글 하나가 사고가 되는 거죠.
그래서 이렇게 만들었어요
지어낼 수 없도록 아예 3단 구조로 짰어요.
- 1단계: 사장님이 미리 등록한 공통 Q&A에 있는 질문이면 그 답변으로 답해요.
- 2단계: Q&A에 없으면 사장님이 써둔 고정답변으로 넘어가요. (예: ‘자세한 내용은 연락 주세요’)
- 3단계: 고정답변도 꺼둔 상태면 아예 답하지 않고 확인 목록으로 넘겨요.
여기에 추가 안전장치도 넣었어요. 근거 없이 숫자나 연락처가 답글에 들어가면 자동 발송을 막고요. 불만이나 항의 댓글은 무조건 사람이 확인하게 했어요. 스팸은 당연히 답하지 않고요.
글마다 켜고 끌 수 있게
자동화는 글 단위로 켜고 끌 수 있어요. 켜지 않은 글의 댓글은 초안조차 만들지 않아서 크레딧이 0이에요. 글마다 ‘최대 몇 건까지 자동 답글할지’도 정할 수 있고요.
실제로 돌려보니까요, ‘몇 시까지 하세요?’는 등록된 영업시간으로 정확히 답했고, ‘가격이 얼마인가요?’는 지어내지 않고 고정답변으로 넘어가더라고요. 제대로 작동하는 걸 보니 안심이 됐어요.
같이 손본 것들
댓글 답글 기능 만들면서 크레딧 구조도 다시 짰어요. 예전엔 글 1편이 3크레딧이었는데, 댓글 답글 같은 작은 작업이 반올림 때문에 4배로 과금되는 문제가 있었거든요.
그래서 크레딧 단위를 100배로 바꿨어요. 이제 글 1편이 100크레딧, 답글은 9크레딧이에요. 훨씬 공정해졌죠.
그리고 작업마다 다른 AI 모델을 쓰게 했어요. 긴 블로그 본문만 비싼 모델 쓰고, 짧은 답글이나 리라이트, 추천 같은 건 3배 싼 모델로요. 덕분에 무료 도구 응답 시간이 13초에서 6초로 빨라졌어요. 😊
배운 것
AI한테 ‘거짓말하지 마라’고 아무리 지시해도 소용없어요. 그것보다 지어낼 여지 자체를 없애는 구조가 훨씬 확실하더라고요.
1인 개발자로서 AI 기능 만들 때마다 느끼는 건데요, 기술이 좋은 것보다 안전하게 쓸 수 있는 게 더 중요한 것 같아요. 특히 자동으로 손님한테 나가는 거라면요.
다음엔 또 삽질한 이야기 들고 올게요. 🙌