당신의 현재 위치는:크레이지 슬롯 > 초점
공감은 클로드, 요약은 GPT, 한국어 서비스는 에이닷…SKT '통신 언어모델' 세가지 버전 만든다
크레이지 슬롯2024-03-29 05:02:27【초점】2사람들이 이미 둘러서서 구경했습니다.
소개[텔코LLM 멀티전략 구체화]버전별 장점 살리는 파인튜닝 돌입클로드 버전 상담봇 구현에 제격GPT, 트렌드 분석·사후관리 활용골라 쓰게 지원···연내 출시 목표[서울경제] SK텔레
[텔코LLM 멀티전략 구체화]
버전별 장점 살리는 파인튜닝 돌입
클로드 버전 상담봇 구현에 제격
GPT, 트렌드 분석·사후관리 활용
골라 쓰게 지원···연내 출시 목표
[서울경제]
SK텔레콤이 이동통신사에 특화한 대형언어모델(LLM)을 서로 다른 세 가지 버전으로 출시한다. SK텔레콤은 앤트로픽의 클로드 버전, 오픈AI의 GPT 버전, 자체 개발한 에이닷엑스(A.X)로 구성되는 ‘텔코 LLM’의 특장점을 각각 살려 적재적소에 활용하는 ‘멀티(다중) LLM’ 전략을 실행할 방침이다. 현재 클로드 버전은 고객 응대에 필요한 감정 파악 능력이, GPT 버전은 대화를 요약해 고객 니즈(요구)를 찾는 의도 파악 능력이 특히 뛰어난 것으로 확인됐다.
18일 통신업계에 따르면 SK텔레콤은 범용 LLM인 클로드와 GPT에 각각 통신 데이터를 학습시키는 파인튜닝(미세조정) 작업을 진행 중이다. 파인튜닝은 범용 모델을 특정 분야에 최적화하도록 관련 데이터를 추가 학습시키는 것으로, SK텔레콤은 이를 통해 클로드 버전과 GPT 버전의 텔코 LLM을 확보하고 자사 인공지능(AI) 비서 ‘에이닷(A.)’에 활용된 모델 에이닷엑스까지 포함해 총 3가지 버전의 텔코 LLM을 출시할 계획이다. 이 같은 계획은 앞서 앤트로픽·오픈AI 등과 손잡고 다양한 LLM을 만들겠다며 밝힌 멀티 LLM 전략을 한층 구체화한 것이다.
SK텔레콤은 버전별 성능을 내부적으로 비교 평가해 그 초기 결과를 최근 산출했다. 통신사 고객과의 대화에서 감정을 파악하는 능력, 주제를 파악하는 능력, 고유명사 같은 개체명(NER)을 인식하는 능력, 상대방의 의도를 파악하는 능력, 내용을 요약하는 능력 등으로 세분화한 평가를 진행했다. 클로드 버전은 감정 파악과 NER 인식 능력, GPT 버전은 주제와 의도 파악·요약 능력에서 최고점을 얻었다. 모든 항목에서 적어도 하나의 텔코 LLM이 범용 LLM보다 뛰어난 것으로도 나타났다. 에이닷엑스의 성능은 확인되지 않았지만 이미 국내에서 상용화한 만큼 한국어 서비스 개발에 특히 유용할 것으로 알려졌다.
SK텔레콤은 전 세계 통신사들에게 텔코 LLM을 제공하고 각 사가 AI콘택트센터(AICC)나 AI비서는 물론 통화내용 요약·통역 같은 편의 서비스나 기능을 만드는 과정에서 세 버전을 적절히 골라 쓰도록 지원할 계획이다. 초기 결과로는 클로드 버전은 감정 파악 능력을 살려 고객을 응대하고 관리하는 상담봇을 구현하는 데 효율적일 수 있다. 특정 요금제명처럼 상담 중 오가는 고유명사도 잘 잡아낼 수 있다. GPT 버전은 대화 속에서 요금제 변경과 같은 고객 니즈를 파악하고 이를 실행할 수 있으며 대화 요약을 통해 상담이력 관리에 필요한 후처리 작업과 고객 트렌드 분석을 효율화하는 것도 가능하다. 다만 아직 텔코 LLM이 개발 중인 만큼 성능이 지속적으로 고도화할 예정이어서 평가결과 역시 달라질 수 있다는 게 회사 입장이다.
SK텔레콤은 텔코 LLM을 연내 출시할 계획이다. 도이치텔레콤, 이앤, 싱텔, 소프트뱅크 등 글로벌 통신사 4곳과 연내 합작법인을 세우고 5개사 총 13억 명에 달하는 가입자 데이터와 수요를 바탕으로 한국어뿐 아니라 영어·독일어·아랍어·일본어를 지원하는 텔코 LLM과 맞춤 서비스를 개발한다. 회사 관계자는 “텔코 LLM은 범용 LLM보다 통신 영역에 대한 이해도가 높고 고객 의도를 잘 파악할 수 있다”며 “텔코 LLM이 개발되면 전 세계 통신사들이 각국의 환경에 맞춰 유연하게 생성형 AI 서비스를 만들 수 있다”고 설명했다.
SK텔레콤은 멀티 LLM 전략을 추진하기 위해 지난해 8월 앤트로픽에 1억 달러(1300억 원)를 투자했다. 같은 해 말 클로드와 GPT로 개발한 아마존 상품후기 요약 AI 서비스 ‘지스티’를 시범 출시하며 텔코 LLM의 기술검증(POC)에도 착수했다. POC는 신기술의 성능과 상용화 가능성을 검증하는 절차다. ★본지 2023년 11월 22일자 14면 참조
텔코 LLM은 지난달 말 스페인에서 열린 ‘모바일월드콩그레스(MWC) 2024’에서 시연됐다. ‘내게 알맞은 로밍 혜택을 알고 싶다’고 질문하면 텔코 LLM 기반의 챗봇이 ‘당신은 5G 가족 결합 상품에 가입돼 가족도 함께 혜택을 누릴 수 있다. 가족과 함께 여행을 할 계획인가’라고 가입자 데이터를 활용한 실용적 답변을 내놓았다.
버전별 장점 살리는 파인튜닝 돌입
클로드 버전 상담봇 구현에 제격
GPT, 트렌드 분석·사후관리 활용
골라 쓰게 지원···연내 출시 목표
[서울경제]
SK텔레콤이 이동통신사에 특화한 대형언어모델(LLM)을 서로 다른 세 가지 버전으로 출시한다. SK텔레콤은 앤트로픽의 클로드 버전, 오픈AI의 GPT 버전, 자체 개발한 에이닷엑스(A.X)로 구성되는 ‘텔코 LLM’의 특장점을 각각 살려 적재적소에 활용하는 ‘멀티(다중) LLM’ 전략을 실행할 방침이다. 현재 클로드 버전은 고객 응대에 필요한 감정 파악 능력이, GPT 버전은 대화를 요약해 고객 니즈(요구)를 찾는 의도 파악 능력이 특히 뛰어난 것으로 확인됐다.
유영상 SK텔레콤 대표가 지난달 26일(현지시간) 스페인 바르셀로나에서 열린 세계 최대 이동통신 전시회 '모바일월드콩그레스(MWC) 2024'에서 AI 사업 전략을 발표하고 있다. 사진 제공=SK텔레콤
18일 통신업계에 따르면 SK텔레콤은 범용 LLM인 클로드와 GPT에 각각 통신 데이터를 학습시키는 파인튜닝(미세조정) 작업을 진행 중이다. 파인튜닝은 범용 모델을 특정 분야에 최적화하도록 관련 데이터를 추가 학습시키는 것으로, SK텔레콤은 이를 통해 클로드 버전과 GPT 버전의 텔코 LLM을 확보하고 자사 인공지능(AI) 비서 ‘에이닷(A.)’에 활용된 모델 에이닷엑스까지 포함해 총 3가지 버전의 텔코 LLM을 출시할 계획이다. 이 같은 계획은 앞서 앤트로픽·오픈AI 등과 손잡고 다양한 LLM을 만들겠다며 밝힌 멀티 LLM 전략을 한층 구체화한 것이다.
SK텔레콤은 버전별 성능을 내부적으로 비교 평가해 그 초기 결과를 최근 산출했다. 통신사 고객과의 대화에서 감정을 파악하는 능력, 주제를 파악하는 능력, 고유명사 같은 개체명(NER)을 인식하는 능력, 상대방의 의도를 파악하는 능력, 내용을 요약하는 능력 등으로 세분화한 평가를 진행했다. 클로드 버전은 감정 파악과 NER 인식 능력, GPT 버전은 주제와 의도 파악·요약 능력에서 최고점을 얻었다. 모든 항목에서 적어도 하나의 텔코 LLM이 범용 LLM보다 뛰어난 것으로도 나타났다. 에이닷엑스의 성능은 확인되지 않았지만 이미 국내에서 상용화한 만큼 한국어 서비스 개발에 특히 유용할 것으로 알려졌다.
SK텔레콤은 전 세계 통신사들에게 텔코 LLM을 제공하고 각 사가 AI콘택트센터(AICC)나 AI비서는 물론 통화내용 요약·통역 같은 편의 서비스나 기능을 만드는 과정에서 세 버전을 적절히 골라 쓰도록 지원할 계획이다. 초기 결과로는 클로드 버전은 감정 파악 능력을 살려 고객을 응대하고 관리하는 상담봇을 구현하는 데 효율적일 수 있다. 특정 요금제명처럼 상담 중 오가는 고유명사도 잘 잡아낼 수 있다. GPT 버전은 대화 속에서 요금제 변경과 같은 고객 니즈를 파악하고 이를 실행할 수 있으며 대화 요약을 통해 상담이력 관리에 필요한 후처리 작업과 고객 트렌드 분석을 효율화하는 것도 가능하다. 다만 아직 텔코 LLM이 개발 중인 만큼 성능이 지속적으로 고도화할 예정이어서 평가결과 역시 달라질 수 있다는 게 회사 입장이다.
SK텔레콤은 텔코 LLM을 연내 출시할 계획이다. 도이치텔레콤, 이앤, 싱텔, 소프트뱅크 등 글로벌 통신사 4곳과 연내 합작법인을 세우고 5개사 총 13억 명에 달하는 가입자 데이터와 수요를 바탕으로 한국어뿐 아니라 영어·독일어·아랍어·일본어를 지원하는 텔코 LLM과 맞춤 서비스를 개발한다. 회사 관계자는 “텔코 LLM은 범용 LLM보다 통신 영역에 대한 이해도가 높고 고객 의도를 잘 파악할 수 있다”며 “텔코 LLM이 개발되면 전 세계 통신사들이 각국의 환경에 맞춰 유연하게 생성형 AI 서비스를 만들 수 있다”고 설명했다.
SK텔레콤은 멀티 LLM 전략을 추진하기 위해 지난해 8월 앤트로픽에 1억 달러(1300억 원)를 투자했다. 같은 해 말 클로드와 GPT로 개발한 아마존 상품후기 요약 AI 서비스 ‘지스티’를 시범 출시하며 텔코 LLM의 기술검증(POC)에도 착수했다. POC는 신기술의 성능과 상용화 가능성을 검증하는 절차다. ★본지 2023년 11월 22일자 14면 참조
텔코 LLM은 지난달 말 스페인에서 열린 ‘모바일월드콩그레스(MWC) 2024’에서 시연됐다. ‘내게 알맞은 로밍 혜택을 알고 싶다’고 질문하면 텔코 LLM 기반의 챗봇이 ‘당신은 5G 가족 결합 상품에 가입돼 가족도 함께 혜택을 누릴 수 있다. 가족과 함께 여행을 할 계획인가’라고 가입자 데이터를 활용한 실용적 답변을 내놓았다.
대박입니다!(5182)
관련 기사
- 의료 차질은 그대로?‥'2천 명' 변경 가능성은?
- 대한항공-에어버스, 고장 부품 탐지 시스템 도입키로
- 바이든 - 트럼프 국경 지역 동시 출격…정책 대결 잰걸음
- 마윈 앤트그룹, 크레딧스위스 차이나 입찰로 증권업 진출 시도
- 반발하는 의료계…야간반 의대 하자는것, 해리포터도 아니고(종합3보)
- 76년만에 이룬 對사회주의권 외교 완결판… ‘北문제 해결에 기여’ 전망[10문10답]
- 스웨덴, 나토 합류‥러시아, 폐지 군사조직 부활
- 트랙터 시위대, EU 문턱에서 방화...방어벽 돌진
- 실손보험 돼요 의사 말 믿고 '무릎주사'…보험사 말은 달랐다
- 유럽 군수물자 고갈에 속타는 나토 “K방산 지원 안되겠니?”
인기 기사
역장추천
우정 링크
- '동남4군' 출사표 김성회 "이민청 충북에…출산시 1억 빚 탕감"
- 안산 에어컨설치업체 창고서 불…인명피해 없어
- 광주고려인마을, 삼일절에 '빼앗긴 조국, 그날의 함성' 재연
- 남도국악원, 13개국 재외동포 예술단체 초청해 국악 전수
- 액운 쫓고 풍년 빌어요…충북 곳곳서 대보름 행사
- [아동신간] 미라의 처음 학교 가는 날
- [게시판] 한국건강가정진흥원, 국립생태원과 업무협약
- 경북도, 저출생 극복 구상 발표…육아·돌봄부담 최소화
- '집단휴학 '전남대·조선대 의대 학사일정 조정 검토
- 증평군, 작년 출생아 증가율 전국 기초지자체 중 4번째로 높아
- 日기업, '우주쓰레기 촬영용' 위성발사…향후 쓰레기회수 서비스
- 러 포탄, 우크라보다 10배 많아…승기 다시 잡은 러시아
- 대만기업, 양안 긴장에 작년 대중투자 40% 급감…역대 최저치
- 지난해 외국기업 중국 직접투자 44조 원…30년 만에 증가액 최저
- ‘유권자 2억명’ 인도네시아 대선…투표관리원 23명 과로로 숨졌다
- 일본인 39% 70세 이상까지 일할 것…노후자금 불안이 원인
- 미 공화 부통령 후보들, 트럼프 나토 발언 두둔하며 ‘친트럼프’ 충성경쟁
- 칠레 네티즌, 영국에 "모아이 석상 돌려달라" 와글
- [이 시각 세계] 팔레스타인 점령 57년‥국제재판 심리 시작
- “입국 절차 1시간에서 1분으로”…한국인들 ‘이 나라’ 더 자주 가겠네
- ‘세계 최대 1일 선거’ 인도네시아, 투표관리원 23명 과로사
- "환자는 어떡하나요" 전공의 집단사직에 시민 불안
- 아내의 사랑한다는 말…끝내 듣지못한 나발니[이슈세개]
- “비행기 탔는데 머리 위로 구더기가 우수수” 결국 회항
- 사람이랑 너무 닮았어 '기적의 신생아'…멸종위기종 고릴라 산부인과 의사가 제왕절개 수술해 극적 '탄생'
- 스니커즈로 대선 자금 쓸어담네…50만원 넘는데도 2시간만에 ‘완판’