卡卡欧宣布，其开源的轻量语言模型（SLM）“卡纳纳-2（Kanana-2）”系列在安全性评估中超越了同规模的海外主要模型，获得综合评估第一名。
卡卡欧通过自建的AI安全性评估平台，对上个月28日向Hugging Face开源的“卡纳纳-2-1.3B-Instruct”和“卡纳纳-2-3B-Instruct”两个模型进行了有害性、偏见性等方面的系统测量。
此次评估使用了由科学技术信息通信部项目的一部分，韩国信息通信技术协会（TTA）、KAIST和卡卡欧于去年11月共同构建的韩语专用安全性基准“AssurAI”。AssurAI根据韩国的社会文化背景设计，能够在文本、图像、音频等多模态环境中，以及AI服务使用场景和恶意提示场景等多种条件下测量AI的风险因素。
AssurAI包含35个风险类别下的9560个评估项目。卡卡欧将其重新整理为社会风险、性内容/儿童保护、犯罪/非法行为、暴力、权利侵犯等五个大类，并采用预先定义的评分标准，通过“LLM-as-a-Judge”方式评估AI模型的响应，最大限度地减少了大规模评估中的主观偏差。
在大类中，卡纳纳1.3B模型在犯罪/非法行为领域表现优越，而3B模型在性内容/儿童保护和权利侵犯领域则大幅领先于比较模型。
卡卡欧表示，此次评估是其后续公开的自研AI模型将常态化进行安全性评估的开始。未来将逐步扩大评估范围，涵盖多模态模型和代理AI风险评估领域。
卡卡欧AI安全性负责人金京勋表示：“此次评估是通过自我验证体系对开源模型的安全性进行预先检查并公开结果的案例。我们将继续在负责任的AI开发原则下，将安全性验证作为模型发布流程的核心环节。”
※ 本报道经人工智能（AI）系统翻译与编辑。
