卡卡与人工智能安全研究所携手，致力于构建安全可靠的人工智能（AI）生态系统。
卡卡于9月29日宣布，已于9月28日与人工智能安全研究所签署了AI安全性共同评估及评估体系建设的战略合作协议（MOU）。
根据此次MOU，双方将扩大合作，建立针对AI模型和代理的客观、系统的安全性评估基础。
根据协议，卡卡将提供其AI模型和AI代理作为安全性评估对象，并支持评估实施及评估工具开发所需的基础设施。人工智能安全研究所将负责评估实施和方法论的提升。双方还将共同审查评估结果，并协商公开范围，同时合作开发AI安全性评估工具。
双方的合作将分为三个阶段进行。首先，将对语言模型进行发布前后的安全性评估，随后将评估范围扩大至多模态语言模型和AI代理。最后，双方计划共同开发能够更有效验证AI模型和代理安全性的评估工具。
通过此次合作，卡卡计划建立一个能够前瞻性识别和验证AI模型风险的体系，同时持续提升AI安全性评估能力。特别是，基于与国内AI安全性专业研究机构的合作，卡卡希望确保全球水平的AI安全性，并为构建可信赖的AI生态系统做出贡献。
卡卡AI协同成果领导者金世雄表示：“通过此次合作，卡卡的AI模型将具备更加客观和严格的安全性验证体系。我们将继续努力，提供以安全性和信任为首要目标的AI模型和服务。”
人工智能安全研究所所长金明珠表示：“随着AI技术的不断提升，前瞻性识别和评估潜在风险的体系显得尤为重要。我们将竭尽全力与卡卡合作，建立符合全球标准的AI安全性评估体系。”
卡卡已制定了“卡卡AI安全倡议（Kakao ASI）”，以管理AI模型开发、发布和运营全过程中可能出现的风险。基于此，卡卡对内部AI模型的风险因素进行检查，并将安全性评估结果向外部公开。
※ 本报道经人工智能（AI）系统翻译与编辑。
