Kakao发布四款轻量级语言模型开源,优化智能手机等设备
Kakao公开了其自主研发的人工智能(AI)模型“卡纳纳”的轻量级语言模型(SLM)的开源版本,旨在增强AI技术竞争力并为国内生态系统做出贡献。Kakao于28日宣布,在Hugging Face上发布了四款可在智能手机等设备上运行的轻量级语言模型(SLM)。这些模型属于“卡纳纳-2(Kanana-2)”系列,具体包括:△Kanana-2-1.3B-base △Kanana-2-1.3B-instruct △Kanana-2-3B-base △Kanana-2-3B-instruct。Kakao表示,尽管这些模型体积较小,但其性能已达到可实际应用于服务的水平。这一举措反映了当前AI行业在大规模语言模型(LLM)性能竞争的背景下,轻量级语言模型在智能手机和个人电脑等环境中直接运行的重要性。全球企业也纷纷将On-device AI作为主要战略,陆续发布轻量级开源模型,以抢占轻量AI生态系统的市场。公司解释称,此次发布的模型是基于多种模型开发过程中积累的技术和经验进行开发的。目前,Kakao的轻量模型已在“卡纳纳在KakaoTalk”、“KakaoTalk对话摘要及通话摘要”、“AI国民秘书”等服务中得到应用。这些模型在小体积的情况下,能够在韩语和英语中实现全球水平的性能。在与同类最新(SOTA)开源模型的比较中,韩语、英语、知识、数学、代码等大多数代表性基准测试中表现出色。特别是与开源发布的Kanana-2-1.3B-instruct共同开发的更小尺寸的Kanana-2-0.9B-instruct,在对话、知识、代码、数学、指令执行、工具调用等实际服务应用能力上,展现出与Qwen、Gemma等同级全球模型的竞争力。此外,Kakao应用了自主开发的韩语专用分词器,使韩语处理效率提高了30%以上。分词器是AI模型处理文本时决定将句子切分成小单位的关键技术。使用针对韩语优化的分词器,可以以更少的单位处理相同的句子,从而提高运算速度并降低成本。Kakao将去年开发完成的韩语专用分词器应用于此次模型的整体,以确保性能和成本的竞争力。这些模型还针对智能手机等内存和计算资源有限的On-device环境进行了优化设计。为了解决处理长对话时内存使用量急剧增加的问题,采用了“滑动窗口注意力”结构。通过这一结构,在最大32K(32000个标记,约24000个单词)长度的对话中,内存使用量可减少最多72.7%,同时保持稳定的性能。Kakao将此次模型以允许商业使用的“卡纳纳开放许可证”进行分发。开发者、初创企业、研究机构等均可在没有额外限制的情况下使用该技术,预计将有助于扩大国内高性能韩语AI模型的应用基础,并促进新服务的开发。Kakao统一基础模型成果领导者诺炳锡表示:“在准备进入代理AI时代时,我们深刻感受到云端大规模AI和On-device轻量AI的重要性。Kakao正在这两个领域提升技术竞争力,希望此次开源发布的模型能够促进更多开发者和企业的新AI服务开发,从而为国内AI生态系统的活跃做出贡献。”卡纳纳是Kakao的综合AI品牌,不仅包括语言模型,还涵盖多模态、语音、图像生成模型及相关服务和开发组织。Kakao自2025年起逐步提升轻量模型,从卡纳纳纳诺开始,强化编码、数学、工具调用功能的卡纳纳1.5,以及聚焦于代理AI的卡纳纳-2。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-07-28 18:32:00