27,797시간 강의 데이터로 챗봇 진화시키기 (Note by 패스트캠퍼스)

AI가 대세라는 말은 이제 흔해졌습니다. 많은 기업들이 AI의 도입을 고려하고 있으나, 기술의 본질을 이해하지 못해 어려움을 겪고 있습니다. 이에 따라, AI 관련 내용을 잘 알고 있는 실무자들과의 대화를 통해 독자들에게 AI 비법 노트를 공유하고자 합니다.

여러분은 최근에 주고받은 채팅의 대상이 누구인지 궁금하신가요? 인간인가요, AI인가요?

챗GPT는 많은 변화를 가져왔습니다. 대화가 이제 AI와의 상호작용의 기준이 되고 있습니다. 이를 대표하는 기능이 바로 챗봇입니다.

챗봇: 사용자의 대화를 시뮬레이션하는 컴퓨터 프로그램입니다. 최신 챗봇은 자연어 처리 기술을 활용하여 사용자 질문을 이해하고 이에 대한 응답을 자동화합니다. 

<출처: IBM, 챗봇이란 무엇인가요?>

하지만 기존의 챗봇은 고정된 선택지에 따라 답변을 반복합니다. 앞으로 챗GPT가 모든 서비스에 통합되면 얼마나 편리해질까요?

기업에겐 인건비 절감과 사용자 경험을 향상시키는 큰 장점이 있습니다. 이것이 AI 비법 노트의 첫 번째 주제 ‘챗봇’입니다. IT 교육 전문 기업 패스트캠퍼스의 AI 실무자들을 만났습니다.

Chapter 1. 똑똑한데 응답도 빠른 봇이 수강생을 맡으면 어떨까?

AI 기능 도입의 출발은 문제 해결에서 시작됩니다. 챗봇 ‘캐미’는 수강생과 강사 간 소통의 시차를 해소하기 위해 개발되었습니다. 온라인 수업에서는 빠른 답변이 교육 만족도에 큰 영향을 미치며, 챗GPT는 이 문제의 해답으로 여겨졌습니다.

Q. 튜터 챗봇 ‘캐미’ 프로젝트를 시작한 계기는?

김승민: 패스트캠퍼스는 오프라인 IT 교육 회사에서 시작했습니다. 코로나로 인해 온라인으로 전환하면서 강사에 대한 의존도가 줄어들었고, 빠른 대응이 필요해졌습니다.

Q. 처음부터 AI 챗봇으로 풀어야겠다고 생각했나요?

김승민: 전문적인 지식이 필요한 강의와 운영 관련 질문에서 빠른 대응이 중요했습니다. IT 강의를 중심으로 AI 챗봇은 최적의 선택이었습니다.

패스트캠퍼스는 AI 교육의 선도 기업으로 자리 잡고 있습니다. 새로운 AI 기능의 도입에는 경영진의 지원이 필수적입니다.

Q. 프로젝트 시작 단계에서는 무슨 일이 있었나요?

김승민: 빠르게 기능을 출시하기 위해 여러 기업과 PoC를 진행했습니다. 우리가 원했던 품질을 신속하게 구축할 수 있는지를 확인했습니다.

스타트업 ‘콕스웨이브’와 파트너로 협력하였고, 맞춤형 커스터마이징을 통해 진행하였습니다.

이윤정: 콕스웨이브와 협업하여 개발 시간을 크게 단축했습니다.

Chapter 1 3줄 요약

① 캐미는 온라인 교육에서 시차 문제를 해결하기 위해 개발된 챗봇 프로젝트
② 전문지식과 빠른 응답을 요구하는 환경에서 AI 챗봇이 큰 역할을 담당
③ 패스트캠퍼스는 콕스웨이브와 협업하여 신속한 기능 출시를 목표로 하였다.

Chapter 2. “딸깍”하면 나올 줄 알았죠. 10개월이나 걸릴 줄이야.

캐미의 정식 출시에는 10개월이 소요되었습니다. 고객이 요구하는 수준에 맞추기 위한 과정에서 많은 시행착오가 있었습니다.

Q. 실제 도입 과정에서의 문제는?

김태희: 데이터가 부족하여 원하는 품질의 답변을 얻기 힘들었습니다. 강의 전체를 학습시키기 위해 자막 추출 작업이 필요했습니다.

이윤정: 사용자들이 예상과 다르게 챗봇을 활용하는 문제도 있었습니다. 이에 따라 추가적인 대응 시나리오가 필요했습니다.

김승민: 교육 회사로서 윤리적인 잣대를 세밀하게 적용하고 있습니다.

Q. 데이터 보안은 어떻게 확보하고 있나요?

김승민: 데이터 보안을 철저히 관리하고 있으며, 수강생 데이터는 외부로 유출하지 않도록 규정하고 있습니다.

캐미는 올해 2월 본격 출시 되었습니다.

Q. 캐미를 출시한 후 성과는?

김승민: CS팀의 업무를 일정 부분 대체하여 비용을 절감했습니다.

장은진: 캐미의 질문 수는 10,000개를 넘어섰습니다. 이제 회계 쪽으로의 확장이 목표입니다.

Chapter 2 3줄 요약

① 도입 과정에서 데이터 최적화와 고객 경험 설계가 주요 과제
② 챗봇 퀄리티 확보는 기존 사업 데이터를 바탕으로 달성
③ 캐미는 CS 업무를 대체하며 고객에게 먼저 접근하도록 발전할 계획

Chapter 3. AI가 패캠에 가져온 변화

캐미는 AI가 가져온 작은 변화이며, 패스트캠퍼스는 AI를 통해 글로벌 진출 전략에 박차를 가하고 있습니다.

Q. AI 도입 후 어떤 변화를 겪었나요?

김승민: AI 관련 프로젝트 진행 경험이 강의 데이터 최적화에 큰 영향을 미쳤습니다.

김태희: 자막 번역의 속도가 크게 개선되어 많은 시간을 절약할 수 있었습니다.

AI 도입 덕분에 내부에 전문가를 두지 않고도 서비스 도입이 가능해졌습니다.

Q. AI 기능 도입의 커다란 어려움은?

김태희: 커뮤니티의 도움을 받아 문제를 해결했습니다.

이윤정: 다양한 파트너사와의 인터페이스 문제를 해결하기 위해 설계 단계에서 유연성을 두었습니다.

Q. 다음 단계의 관심 분야는?

김태희: 실시간 스트리밍 자막에 관심을 가지고 있습니다.

이윤정: 벡터 서치 강화에 대한 고민이 많습니다.

김승민: 빠르게 변화하는 산업에서 목표를 세우고 시도하는 것이 중요합니다.

Chapter3. 3줄 요약

① 패스트캠퍼스의 글로벌 진출에 AI가 핵심으로 작용
② AI 도입 과정에서 커뮤니티와 AI 도구의 도움으로 문제를 극복
③ 빠르게 변화하는 시장에서 목표 설정 후 단계적으로 접근하는 것이 중요

여러분은 오늘 AI에 얼마나 질문하셨나요? 작은 변화가 IT 업계를 주도하고 있습니다. 챗봇의 가능성을 다시 한번 주목해볼 시점입니다.