요금제 등 잘 아는 똑똑한 ‘텔코LLM’
SKT ‘A.X’, ‘GPT-4’, ‘클로드’에 한국어 학습
韓 요금제, 공시지원금·선택약정 등 통신 용어, AI 윤리 학습

[마이데일리 = 이재훈 기자] 통신 서비스를 잘 이해하는 똑똑한 AI 멀티엔진 ‘텔코LLM’이 6월 출격한다.

SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 우리나라 통신 전문 용어와 AI 윤리가치와 같은 통신사 내부 지침을 학습한 ‘텔코LLM’을 개발하고 있다고 30일 밝혔다. 오는 6월 중 개발을 완료하고 정식 서비스할 예정이다.

‘텔코LLM’은 GPT, 클로드와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다. SKT는 오픈AI, 앤트로픽 등과 협력해 통신사 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 선별해 이를 에이닷엑스, ‘GPT’, '클로드'에 학습시키고 있다.

텔코LLM은 SKT의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽 클로드 등 다양한 범용모델을 기반으로 구축된다. 

에릭 데이비스 SKT AI 담당은 “1개의 범용 LLM으로 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것”이라며 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정과 모델평가를 거쳐 텔코LLM을 만들고 이를 상황에 맞게 쓸 수 있도록 하는 것이 SKT만의 전략”이라고 설명했다.

오픈 AI는 공식 블로그를 통해 기업 도메인에 맞게 AI 모델을 학습시키고 최적화할 수 있도록 지원하는 모델을 공개하며 “SKT와 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상시켰다”며 파인튜닝의 대표 사례로 언급한 바 있다.

범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코LLM의 파인튜닝이다.

텔코LLM 도입으로 각 기업의 고객센터 응대가 획기적으로 빨라질 것으로 보인다. 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 소요 시간이 대폭 줄어들 게 된다.

또한 텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있다.

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다. 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에, 사람이 직접 정보를 찾는 것보다 대응 시간을 단축 시킬 수 있다.

정민영 SKT AI플랫폼 담당은 “고객센터, 인프라 뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것”이라며 “지속적으로 텔코LLM을 활용한 유즈케이스를 늘려갈 계획”이라고 설명했다.

이재훈 기자 yes@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -