'저비용·확장성·공감력'이 무기...KT 초거대 AI, 다음 스텝은?

“KT의 초거대 AI(인공지능)는 먼저 우리 서비스의 혁신을 목표로 하되, 기존 AI가 줄 수 없었던 차별화된 사용자 경험을 제시하려고 한다.”
이달 5일 서울시 서초구 KT융합기술원에서 만난 장두성 KT AI2XL연구소 Large AI Core 담당 상무는 KT 초거대 AI 개발 전략에 대해 이렇게 말했다.
초거대 AI는 기존 AI 대비 대규모의 학습 데이터와 강력한 하드웨어를 투입하고, 이를 활용할 수 있는 고도의 알고리즘도 적용해 성능을 끌어올린 AI다. 이를 적용하면 기존 AI 서비스의 품질 개선은 물론, 다양한 산업에서 인간의 업무 부담을 획기적으로 줄여줄 수 있다. 다만 개발과 운영에 소요되는 비용이 막대하며, 차세대 시장 선점을 위한 경쟁도 치열한 상황이므로 기업은 '선택과 집중'을 통한 경쟁력 확보가 시급한 상황이다.
이날 만난 장 상무는 KT 초거대 AI '믿음(MIDEUM)'의 핵심적인 부분을 비롯해 기술 개발 전반의 매니지먼트를 담당하는 인물이다. 그에게 KT 외에도 여러 빅테크 기업이 초거대 AI 상용화에 박차를 가하는 상황에서 KT가 내세울 수 있는 기술 경쟁력과 시장 전략은 무엇인지 물었다.

장 상무는 "KT는 초거대 AI 프로젝트 초기 단계부터 이를 사업에 빠르게 적용할 수 있는 '협업융합기술'을 목표로 개발했다"고 말했다. 초거대 AI의 단점인 긴 학습 시간, 대규모 인프라가 요구되는 한계를 극복하기 위해 효율화된 학습 기법과 경량화된 AI 모델 개발에 힘을 실었다는 설명이다. 이를 위해 수년 전부터 카이스트, 한양대, 한국전자통신연구원(ETRI) 등과도 협업했다.
일례로 그는 "언어 분야의 경우 이미 대규모 데이터를 학습한 우리 초거대 AI 위에서 서비스를 만들면 기존 AI 대비 3분의 1 수준의 데이터만으로도 서비스가 가능하다"고 설명했다.
더불어 KT는 초거대 AI 개발 과정에서 국내 최초의 풀스택 AI 환경을 조성함으로써 초거대AI를 구성하는 소프트웨어와 하드웨어의 균형을 갖췄다. 이를 위해 지난해 10월 AI 인프라 솔루션 전문기업 모레(Moreh), 올해 7월에는 AI 반도체 전문기업 리벨리온에 투자하고 파트너십을 체결했다. KT는 최신 AI 기술과 서비스 역량을 제공하고 인프라 구축은 전문기업인 모레와 리벨리온이 힘을 얹는 구조다. 이를 통해 초거대 AI의 성능 효율을 높이고 서비스 비용은 줄여 향후 다양한 서비스로 확장하기에 유리한 경쟁력을 갖추게 됐다.
성능 외에 AI가 실제 사용자들과 '교감'할 수 있는 서비스 능력을 갖추기 위한 노력에도 한창이다. KT는 이를 일찍이 '공감하는 AI'로 정의하고 믿음의 핵심 역량 중 하나로도 강조하고 있다. KT가 공감을 핵심 키워드로 삼은 데에는 서비스·기술 양면의 이유가 있다.
장 상무는 "초거대 AI는 기존 AI보다 차별화된 사용자 경험을 줘야 한다. 이에 실서비스 사용자 관점에서 차별화된 가치가 무엇인지 고민한 결과가 '공감'이라고 판단했다"며 "이를 구현하려면 기존보다 큰 기억공간, 문맥 이해 능력 등이 필요한데 초거대 AI라면 그 일이 가능하다는 관점 아래 공감 능력 개발이 사용자 관점의 핵심 모토가 됐다"고 말했다.
실제로 공감은 단순히 '사용자의 명령→결과물 출력' 수준에 그쳤던 기존 AI와의 대화나 서비스에서 찾아보기 어려운 테마다. 하지만 인간적인 대화의 기본 요소 중 하나가 상대에 대한 공감인 것처럼 AI와 인간이 더 친밀한 관계를 형성하려면 AI 또한 사람을 이해할 수 있는 공감 능력이 필요하다.
KT는 공감 능력을 갖춘 초거대 AI 서비스의 사례로 지난달 국내 육아상담 권위자 오은영 박사와 AI로 상담할 수 있는 IPTV 기반 '오은영 AI 육아상담 서비스'를 공개했다. 사용자가 지니TV의 음성대화 기능으로 육아 관련 고민을 나누면 AI 오 박사는 상황에 대한 공감 제시와 함께, AI에 학습된 오 박사의 저서와 육아 콘텐츠에서 해법을 찾아 제시해주는 서비스다. 이는 현재 국내외 초거대 AI 서비스에서 공감을 테마로 한 서비스가 흔치 않다는 점에서 KT의 차별화 요소가 된다.

KT 초거대 AI는 경쟁 초거대 AI들과 마찬가지로 문장 요약, 생성, 문체 변환 등의 기능도 제공할 수 있다. 대화 내에서 긍정과 부정 등 6가지 감정을 분석할 수 있다. KT의 AICC(인공지능 컨택센터) 전화 상담에서는 상담사들을 도와 상담 내용의 실시간 분석, 소비자의 감정과 대화 내용 등을 요약해주는 서비스가 12월 중 적용될 예정이다. 지니TV에서는 다양한 영화 콘텐츠의 시놉시스를 초거대 AI가 요약할 수 있으며 노인 대상 '시니어케어 서비스'도 AI와의 대화 내용을 요약해 보호자에게 전달해주는 서비스 등이 가능한 상태다.
이처럼 하드웨어, 소프트웨어, 서비스 전반에서의 잠재력을 확보한 KT의 다음 행보는 생태계 확대와 서비스 혁신이다. 아직 초기 단계인 초거대 AI 시장에서 빠른 생태계 확대를 통한 시장 선점은 추후 기업가치 제고로도 연결될 중요한 과제다.
장 상무는 "아직 수익화에 대한 구체적인 계획은 없다"면서도 "현재는 우리의 초거대 AI를 외부의 다양한 협력사들이 이용할 수 있도록 인프라를 만드는 데 힘쓰고 있다. 비용도 기존 AI 사용료와 비교해 1~2배 이내면 가능한 수준으로 구조 개선 중"이라고 말했다.
KT는 믿음 기반으로 만든 22개 서비스를 AI 연구개발포털 '지니랩스'에서 API(응용 프로그램 인터페이스) 형태로 제공중이다. 이 중 13개는 현재 국책기관인 정보통신산업진흥원(NIPA)과 손잡고 초거대 AI API 사업의 일부로 제공 중이다. 이를 활용해 다양한 기업이 자체 서비스를 개발하고 있단 설명이다. 아직 KT와 사업화 단계로 이어진 곳은 없지만 이들 모두가 잠재적인 KT의 고객 내지 협력사로 성장할 가능성이 있다. KT가 단독으로 서비스를 개발할 때보다 활용사례 발굴 가능성도 다양해지므로 추후 초거대 AI 시장 주도권 경쟁에서도 이점이 될 수 있다.

KT의 중장기적인 계획은 앞서 언급한 것처럼 KT 자체 서비스들을 초거대 AI로 혁신하는 것이다. KT는 2020년 구현모 대표 취임 후 AI 중심의 '디지코(DIGICO, 디지털 플랫폼 기업)'를 기업 혁신의 모토로 삼고 추진 중이다. 이를 기점으로 매년 AI 관련 사업 매출도 빠르게 키워나가고 있다. 초거대 AI는 이를 한층 성장시킬 밑바탕이 될 것이란 기대다.
장 상무는 "우선 감성케어 부문과 기가지니(AI 스피커, IPTV)나 AICC에 초거대 AI를 적용 중이다. 향후에는 앞서 시연했던 육아상담을 비롯해 교육 등 보다 다양한 분야의 전문상담 시스템으로 확장해가는 것이 목표"라고 말했다. 또 "사람이 외부를 이해하는 방식처럼 음성과 영상, 언어 등을 AI가 통합적으로 받아들이고 해석할 수 있는 멀티모달(Multi Modal)의 단계로 나아갈 것"이라고 덧붙였다.