대기업도 중소기업도 자체 AICC 서비스 구축이 필수인 이유 | AI 엔지니어의 고민
#AI 고객센터
#AICC
#LLM
요새 가장 핫한 AI 서비스인 AI 고객센터, 3대 통신사의 미래 먹거리로 부상한 것은 물론, 국내 IT 기업에서도 뛰어들어 각축전이 된 상황입니다. 이는 국내 상황뿐만이 아닌데요! 글로벌 클라우드 기반 AICC 시장 규모는 2030년까지 300% 성장이 예상되며, 이에 따라 국내 AICC 시장의 규모 또한 파격적으로 상승할 전망입니다.
Q. 왜 이렇게까지 시장 규모가 커지는 걸까요?
코로나19를 거치며, 비대면 수요가 확대되었고, 이미 도입한 기업들의 만족도와 효과 또한 빠르게 상승하는 추세이기 때문인데요! 따라서 AICC 도입을 희망하는 기업들이 많아지고 있답니다. 그 중 쉽게 접근할 수 있는 방법은 1. 외주 AICC 서비스 이용 2. 단순 ChatGPT API 연동 2가지가 있습니다.
이 방법들에는 큰 단점이 있는데요!
외주 AICC 서비스 이용
- 옵션 하나에 기하급수적으로 늘어나는 비용,
- 작고 큰 문제 생길 때마다 배로 드는 리소스(외주＋엔지니어＋회사)
- 데이터 적재의 문제 – 외국 솔루션에 내부 고객 데이터를 넣는 것이 법적으로 금지되어 있음
단순 ChatGPT API 연동
- 할루시네이션
- API 내 input 데이터에 대한 학습 제한
- 이로 인한 제한된 답변으로 고객 불만 증폭
그러면 어떡해야 할까요?
정답은 자체적으로 구축해야 합니다!
자체적으로 구축한 AI 고객센터는 장점이 아주 많은데요.
🚩AI 고객센터 장점
1) 내부 데이터 보안 강화
외부 솔루션을 사용하는 경우 데이터를 외부 서비스에 제공해야 하므로 보안 위험이 증가할 수 있습니다. 하지만 자체 시스템을 구축하면 데이터를 내부에서 처리하고 저장하기 때문에 보안에 대한 더 높은 수준의 컨트롤이 가능합니다.
2) 고객 히스토리 적재 > 맞춤형 답변 제공
자체적으로 AICC를 개발하면 기업의 특정 요구에 맞춰 사용자 정의 기능을 구현할 수 있습니다. 예를 들어, 특정 산업 분야에 필요한 도메인 지식을 반영하여 응답을 생성하는 기능을 추가할 수 있습니다. 이는 기업의 고유한 요구사항을 충족시키는 데 도움이 됩니다.
3) 적은 유지보수 비용
자체 AICC를 구축하면 기업 내부에서 시스템을 직접 관리하고 유지보수할 수 있으므로 외부 서비스 제공 업체에 대한 의존도를 줄일 수 있습니다. 이는 유지보수 및 시스템 관리 비용을 절감할 수 있습니다.
4) 커스터마이징 및 유연한 확장을 기반으로 한 최적화
자체 시스템을 구축하면 시스템의 각 부분을 커스터마이징하고 확장할 수 있습니다. 외부 솔루션을 사용하는 경우 일반적으로 사용자는 제한된 기능 세트를 사용해야 하지만, 자체 시스템을 구축하면 필요에 따라 시스템을 자유롭게 확장하고 수정할 수 있습니다.
5) 특히 커머스, 금융 분야는 맞춤 서비스 소개까지 연계 가능
하지만, 생각보다 간단하지 않은 AICC 구축, AI 엔지니어들이 AICC를 자체적으로 구축할 때 가장 어려워하는 부분은 다음과 같습니다.
🚩AICC 구축 시 AI 엔지니어들이 겪는 고질적인 문제
1. 방대한 양의 데이터 전처리 과정이 힘들어요
AICC는 고객이 보유 중인 문서를 가지고 RAG 방식으로 구현되는데, 이때 고객 문서의 품질이 성공적인 AICC 런칭의 키팩터가 된다고 생각합니다. RAG를 위해서는 일단 hwp, doc, ppt 등 표, 이미지 등이 포함된 다양한 형식의 문서에서 의미 있는 텍스트를 파싱하는 것부터 시작인데, 실제 현장에서 고객 문서 전처리하는 것에 큰 어려움이 있는 경우가 많습니다. 또한 문서의 양이 너무 많은 경우 검색 성능이 필연적으로 떨어질 수밖에 없으며, 답변에 참고할 만한 문서를 잘못 찾게 되는 경우 AICC 운영에 큰 차질이 생길 수 있습니다.
2. 여러 시스템 통합과 멀티모달 연동이 복잡해요
여러 시스템과의 통합, 예를 들어 CRM(고객 관계 관리 시스템)이나 기타 사내 데이터와의 연동은 기술적으로 복잡합니다. 이미지, 텍스트, 문서, 테이블 등의 다중 데이터 (multimodal)를 다뤄야 하며 각각에 대한 엔지니어의 처리 시스템 구현이 필요합니다.
3. 고객 개인화된 정보 제공 부족해요
AI는 개인화된 서비스 제공에 한계가 있어, 고객이 개인 맞춤형 서비스를 기대하는 경우 만족도가 떨어질 수 있습니다. 특히 고객의 이전 상담 이력이나 선호도를 고려하지 않고 일괄적인 서비스를 제공하는 경우, 고객 경험이 저하될 수 있습니다.
4. 인간 같지 않은 응대의 한계를 느껴요
고객과의 자연스러운 대화를 위해 AI는 다양한 문맥과 의도를 파악해야 하지만, 실제로는 대화의 맥락을 잘못 이해하거나 제한된 대답을 하는 경우가 많습니다. 예를 들어, 현존하는 ARS 등의 모델들은 가능한 경우들을 미리 설정해서 해당 선택지 내에서만 응답이 가능하게 디자인되어 있습니다.
5. AI를 처음 구축하여 어디서부터 어떻게 구축해 나가야 할지 막막해요
ChatGPT API만 연동하면 될 것이라고 간단하게 생각했는데, 복잡한 AI 서비스라는 것을 깨닫고 쉽게 외주 서비스를 이용하는 경우가 많습니다. 앞서 말씀드렸듯이 자체적으로 구축하는 AI 고객센터는 데이터 보안, 유연한 관리 및 확장 등 장점이 많아 자체적으로 구축하는 것을 회사와 엔지니어 입장에서도 추천드립니다.
이런 문제점들 LLM과 RAG 기술 그리고 OO OO 로 해결 가능하다는 것 아시나요?
🚩 해결 방안
1. 방대한 양의 데이터 전처리 과정이 힘들어요
✅ hwp, doc, ppt 등 많은 양의 데이터를 검색, 증강, 생성하여 전처리하는 자연어 처리 기술로, 사용자의 질문에 빠르고 효율적으로 응답할 수 있도록 도와줍니다. 이를 통해 고객 센터의 운영 효율성을 향상시키고 사용자 경험을 개선할 수 있습니다.
2. 여러 시스템 통합과 멀티모달 연동이 복잡해요
✅ 최근 발전한 LLM과 RAG를 통해 다양한 인풋 데이터를 활용하여 여러 시스템의 통합과 멀티모달 데이터의 처리를 효과적으로 단순화하고 자동화합니다. 이를 통해 다양한 소스로부터의 데이터를 신속하게 통합하고, 다양한 형식의 입력에 대한 응답을 자동으로 생성하여 시스템 간의 상호작용과 사용자 경험을 최적화합니다.
3. 고객 개인화된 정보 제공 부족해요
✅ LLM은 고객의 개인 정보와 이전 상담 이력 등을 학습하여 이를 토대로 답변하는 서비스를 구현할 수 있게 해줍니다.
4. 인간 같지 않은 응대의 한계를 느껴요
✅ LLM을 활용하면 선택지를 벗어난 단순한 정보에 대한 질문에 대해서도 문제없이 대화를 이어 나가며 원래의 흐름으로 되돌려 놓을 수 있습니다. 또한, LLM은 자세하고 상세하며 친절한 답변을 생성할 수 있는 능력을 갖췄습니다.
5. AI를 처음 구축하여 어디서부터 어떻게 구축해야 할지 막막해요
✅ 위 포인트들에서 막혔다면? AICC 구축이 더 궁금하다면? 모두 주목!
이 강의로 한 번에 해결할 수 있습니다.
📌[25개 실습으로 끝내는 AI 고객센터 서비스 구축]
ChatGPT, RAG 등 AI 엔지니어가 가장 많이 쓰는 필수 18가지 기술로 25개의 프로젝트를 통해 AI 고객센터에서 사용하고 있는 실제 서비스를 단계별로 학습 가능합니다.
* 다양한 LLM 기술 접목
* 챗봇+보이스봇+어시스턴트 구현 커리큘럼
* 커머스+파이낸스 카테고리 실습
또 진행하시다가 어려운 점이 있으면 AI 엔지니어와 직접 소통하며 질의응답까지 가능하니까요, AICC를 처음 구축하는 분, AI 관련 LLM 기술의 스킬업을 하고 싶은 분들에게 모두 추천드립니다!
AICC
📌마이크로소프트와 대기업 L사 AI 전문가, 강사님의 한마디
“최근 기업들이 AI를 활용한 고객 서비스 모델을 가장 유망한 비즈니스 모델로 주목하고 있습니다. ”
AI 고객센터 서비스는 고객 서비스 개선, 비용 절감, 업무 자동화, 데이터 분석의 효율성 증대와 같은 현실적인 이익을 가능하게 하고 있습니다. 본 강의를 통해 여러분은 이러한 기술의 핵심을 이해하고, 직접 손에 넣은 지식을 바탕으로 여러분의 조직이나 사업에서 혁신을 이끌어낼 수 있기를 바랍니다.
“AI 고객센터 서비스 구축을 통해 AI 활용 능력을 업그레이드하세요.”
최신 AI 기술을 이해하고 실제 프로젝트에 적용할 수 있는 실질적인 능력을 길러 드립니다. 현재 업무 수행방식보다 고도화된, 효율적이고 혁신적인 AI 고객센터 서비스를 구축하세요.
