KT, AI를 연결하는 새로운 플랫폼 공개. '토큰팩토리'로 대한민국 AX 가속
2026.11.03
▶ 급증하는 AI 토큰 수요에 대응… 모델 선택부터 관리까지 하나의 플랫폼에서
▶ 글로벌 1위 ‘AI모델 추천 기술’ 및 ‘프롬프트 압축기술’로 토큰 최대 25% 절감
▶ 국내에서 자체 AI 추론 지원… 데이터 주권과 안전성 모두 갖춘 환경 구현
▶ 국내 최초로 글로벌 최대 라우팅社 파트너십 체결… B2C까지 확대 예정
#. 임직원 500명 규모의 글로벌 R&D 전문 기업은 업무 생산성 향상을 위해 글로벌 프론티어 AI 모델을 기업용 계정으로 이용하고 있다. 하지만 회사가 제공하는 단일 AI 모델만으로는 다양한 업무 요구를 충족하기 어려워지면서, 임직원과 각 부서가 업무 특성과 선호에 따라 다양한 글로벌 AI 모델을 개별적으로 구독·이용하는 사례가 늘고 있다. 이 회사 입장에서는 어떤 AI 모델이 얼마나 활용되고 있는지 파악하고, 모델별 토큰 사용량과 비용을 통합적으로 관리하는 것이 중요한 과제다.
AI 모델이 빠르게 분화하고 사용량에 따라 비용을 지불하는 토큰 경제가 본격화되면서, 여러 AI를 목적에 맞게 효율적으로 활용하는 방향으로 고객의 AI 경쟁력도 이동하고 있다.
KT가 통신사업을 통해 축적한 연결·과금·보호 역량을 AI 시대에 맞게 확장한 AX 플랫폼을 선보였다. ▲사람과 서비스를 연결해 다양한 AI를 실제 업무에 적용할 수 있는 '실행' ▲이용량 기반의 정밀한 과금과 최적화 기술을 통한 '효율' ▲안정적인 인프라와 보안 역량에 기반한 '신뢰'를 AI 서비스 영역으로 확장한 것이 특징이다.
KT(대표이사 박윤영)는 27일 서울 종로구 광화문 West 빌딩에서 AI 모델 선택, 비용 관리, AI신뢰·안전 기능을 하나의 플랫폼에서 제공하는 AI 플랫폼 'KT 토큰팩토리(KT Token Factory, 이하 토큰팩토리)'를 공개했다. KT는 토큰팩토리를 AI 시대 고객의 AX(AI Transformation)를 지원하는 핵심 플랫폼이자 새로운 성장 사업으로 육성할 계획이다.
▲ 급증하는 AI 토큰 수요에 대응… 모델 선택부터 관리까지 하나의 플랫폼에서
AI 시대를 대표하는 경제 단위는 토큰이다. 다양한 AI 모델 출시와 AX 사업 성장 영향으로 글로벌 AI 토큰 소비량은 최근 1년 동안 약 35배 폭증한 것으로 조사됐다.)
현재 업무에 활용할 수 있는 AI 모델은 번역·요약·코딩·추론 등 분야별로 강점이 다르고 성능과 비용도 모두 상이하다. 이에 따라 모든 업무를 하나의 AI 모델로 처리하기보다 업무 목적과 요구 품질에 맞는 최적의 모델을 선택해 활용하는 것이 AX의 핵심 과제가 됐다.
토큰팩토리는 국내·외 500개 이상의 AI 모델을 통합 제공하며 가입부터 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리할 수 있어 고객이 업무 목적, 비용, 보안 요구 사항에 맞는 최적의 모델을 손쉽게 활용할 수 있다.
여러 AI 모델을 개별적으로 탐색하거나 각각의 이용 환경을 관리할 필요 없이 모델 선택부터 이용 현황 모니터링, 비용 관리까지 통합적으로 수행할 수 있다.
토큰팩토리는 KT가 통신사업을 통해 축적한 연결·과금·보호 역량을 AI 서비스에 적용한 플랫폼이다. 통신망이 사람과 서비스를 연결해왔듯 국내외 다양한 AI 모델을 하나로 연결하고, 통신 과금 역량을 바탕으로 사용량 기반의 정밀한 토큰 과금 체계를 구현했다. 또한 고객이 안심하고 AI를 활용할 수 있도록 데이터 보호와 보안 기능도 강화했다.
▲ 글로벌 1위 ‘AI모델 추천 기술’ 및 ‘프롬프트 압축기술’로 토큰 최대 25% 절감
토큰팩토리는 업무 성격에 따라 적합한 AI 모델을 자동으로 선택해 불필요한 비용 지출을 줄인다. 단순 업무에는 가벼운 모델을, 복잡한 분석 업무에는 고성능 모델을 적용해 효율성과 품질을 동시에 높인다.
단순히 가장 성능이 높은 모델이나 가장 저렴한 모델을 일률적으로 선택하는 대신, 고객이 요구하는 목표 품질을 충족하면서 비용 효율도 높일 수 있도록 KT가 자체 개발한 AI 모델 라우팅 기술인 ‘오토 모델 라우터(Auto Model Router)’를 적용해 토큰팩토리의 핵심 기능인 모델 최적화를 완성했다.
이 기술로 질문의 업무 유형, 난이도, 품질, 비용, 고객이 사전에 허용한 모델 범위 등을 종합해 AI 모델을 선택한다. 해당 기술은 모델 선택 성능을 평가하는 글로벌 벤치마크인 ‘RouterArena’에서 종합 1위를 기록하며 기술력을 인정받았다.
프롬프트 압축 기술도 고도화했다. 한국어 특성을 고려한 정밀 압축과 불필요한 반복 표현 제거를 통해 질문의 의미와 응답 품질은 유사하게 유지하면서 입력 토큰 수를 줄여 처리 효율을 높이고, 비용 부담과 응답 시간을 낮춘다.
이러한 KT 자체 기술을 통해 AI 이용에 필요한 토큰 사용을 최대 25%까지 절감하는 효과를 제공한다. 동일한 업무 품질을 유지하면서 운영 효율을 높여 더 많은 고객의 AI 도입과 AX 전환을 촉진할 것으로 기대된다.
▲ 국내에서 자체 AI 추론 지원… 데이터 주권과 안전성 모두 갖춘 환경 구현
토큰팩토리는 해외 AI 서비스 의존에 따른 데이터 주권 우려를 줄이기 위해 한국 내 KT 데이터센터에서 직접 AI 추론 서비스를 제공한다.
KT는 국내에서 안전하게 운영되는 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트(Open Weight) 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있도록 멀티 AI 기반을 구축했다.
누구나 활용할 수 있도록 공개된 오픈웨이트 모델은 높은 활용성과 비용 효율성을 갖췄지만, 기업이 실제 업무에 활용하기 위해서는 데이터 보안과 AI 이용 과정의 안전성을 함께 고려해야 한다.
KT는 다양한 오픈웨이트 모델을 국내 인프라에서 안정적으로 이용할 수 있는 환경을 제공하고, 모델 평가체계와 자체 가드레일(Guardrail) 기술을 적용해 AI 이용 과정의 안전성을 높였다. 고객이 입력하는 프롬프트의 개인정보 및 민감정보와 유해 표현을 점검하는 것은 물론, AI가 생성한 답변도 가드레일로 점검해 보다 안전하게 활용할 수 있도록 지원한다.
특히 한국어 환경에 최적화된 가드레일 기술을 지속 업그레이드해 국내 최고 수준의 경쟁력을 확보하고 있다. 향후에는 고객별 업무환경과 보안 요구를 반영해 탐지 대상과 차단 수준을 세밀하게 설정할 수 있도록 기능을 확장할 계획이다.
고객은 업무 목적과 요구사항에 따라 다양한 AI 모델을 선택하면서도 데이터 주권과 보안 요구 사항을 충족시킬 수 있다. 특히 높은 수준의 보안과 데이터 관리가 요구되는 산업 현장과 기업에서도 최신 AI를 보다 안전하고 유연하게 활용할 수 있을 것으로 기대된다.
KT는 데이터 주권과 신뢰를 기반으로 최신 AI를 자유롭게 활용할 수 있는 AI 환경을 구현해 고객의 AI 도입과 AX 전환을 가속할 계획이다.
▶ 국내 최초로 글로벌 최대 라우팅社 파트너십 체결… B2C까지 시장 확대
KT는 글로벌 AI 게이트웨이 플랫폼이자 AI 모델 마켓플레이스 1위 사업자인 ‘오픈라우터(OpenRouter)’와 국내 최초로 공식 파트너십을 체결했다. 이를 통해 토큰팩토리 플랫폼에 연계 가능한 글로벌 AI 모델 500개 이상을 확보하며, KT 자체 추론 모델과 글로벌 AI 모델을 통합 제공하는 국내 최대 규모의 AI 플랫폼을 구축한다.
양사는 향후 오픈라우터의 글로벌 AI 모델과 KT의 국내 인프라 및 소버린 AI 모델들을 연계해 글로벌 AI 역량을 확대할 계획이다. 특히 KT가 국내에서 제공하는 AI 모델의 글로벌 유통을 추진하는 등 토큰팩토리를 국내외 AI 모델과 이용자를 연결하는 AI 허브로 발전시켜 나갈 예정이다
KT는 오는 30일 토큰팩토리를 출시하고 고객과 서비스 범위를 단계적으로 확대할 계획이다. 출시 초기에는 여러 AI 모델을 활용하면서 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스를 제공한다.
KT는 오픈라우터와의 협력을 비롯해 AI 코딩·에이전트 분야에 특화된 유라클과 CAST AI, 기업용 AI 워크스페이스 분야의 타임리 등 국내외 전문기업과 협력을 확대한다. 또한 업스테이지, 다음을 비롯한 ‘모두의 AI’ 컨소시엄 참여사들과 협력을 강화해, AI 인프라부터 모델 활용, AI 서비스까지 연결되는 ‘KT 토큰팩토리’ 파트너 생태계를 구축하고 글로벌 시장으로 사업 영역을 확대해 나갈 계획이다.
KT AX사업부문장 박상원 전무는 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 말했다.
※ 추가설명: 토큰(Token)
통신 시대에 사용량의 기준이 음성(분, minute)과 데이터(바이트, byte)였다면, AI 시대에는 ‘토큰(Token)’이 새로운 AI의 사용량을 측정하는 핵심 단위로 주목받고 있다. 토큰은 AI가 사용자의 질문과 문서, 코드 등을 이해하고 답변을 생성하는 과정에서 처리하는 기본 단위다. 통신 서비스의 사용량을 음성과 데이터로 측정하듯, AI 시대에는 얼마나 많은 토큰을 사용했는지가 AI 이용량과 비용으로 직결된다.