KT宣布,其自主开发的人工智能(AI)模型路由技术‘AutoModelRouter’在大型语言模型(LLM)专业公开基准‘RouterArena’中综合排名第二。
RouterArena是由美国莱斯大学研究团队开发的LLM路由器评估平台,利用约8400个查询评估AI路由器的响应准确性、成本效益和对输入变化的稳健性。
KT表示,AutoModelRouter的设计旨在满足企业对目标质量的要求,同时提高成本效益。例如,对于相对简单的翻译和信息确认,使用满足必要质量的模型,而对于需要专业分析或高水平推理的任务,则连接高性能模型。用户使用的是一个AI服务,但实际系统根据请求特性使用不同的模型。
此次的AutoModelRouter还将应用于KT正在推进的‘Token Factory’模型路由功能,以优化AI服务质量和降低Token使用成本。
KT计划持续提升AutoModelRouter,并建立一个能够灵活添加新AI模型的多模型运营环境。
KT的Agentic AI实验室负责人金俊锡(常务)表示:“在AI时代,拥有最优秀的单一模型固然重要,但智能地利用最适合的模型也同样重要。此次的AutoModelRouter是实现AI编排能力的技术,将成为KT的Agentic AI服务竞争力的核心技术。”
此外,KT计划在10月发布的政府‘全民AI’服务的测试版中应用这种模型路由方式。
※ 本报道经人工智能(AI)系统翻译与编辑。


