Kakao针对自律代理人的普及，制定了适用于AI服务从规划到运营的伦理原则和执行指南。为了减少AI在自主规划和行动过程中可能产生的风险，Kakao建立了管理人类控制、责任和AI赋权的体系，并对服务全周期的风险因素进行检查。
Kakao于13日在Kakao AI校园举行的开发者大会“如果Kakao·if(kakao)26”上，公开了“自律代理时代AI伦理原则·执行指南”。
新的AI伦理原则“SPIRIT”由安全、隐私、包容、责任、用户主体性、透明性和可信性六个部分组成。这些原则采纳了“韩国人工智能伦理原则”的三大价值观和七大原则作为主要执行标准，并在此基础上补充了适合Kakao服务的具体内容。
Kakao为实际服务应用伦理原则制定了执行方式“NORMA”，以组织层面管理复杂的AI伦理任务，并将其具体化为可执行的阶段。
伦理原则的制定得到了自7月成立的AI与技术伦理小组外部咨询团的七位成员的参与。咨询团检查了与国内外规范的一致性，并从实务角度审查了Kakao的AI安全、个人信息、信息安全和服务相关部门。
Kakao将自律代理人风险分为控制主导权、目标、权限、参考资源和互动五大管理领域，并将人类监督、紧急控制、权限控制、数据保护等必要的控制措施相结合。
基于此制定的“AI伦理执行检查清单”将通过服务属性识别、预先风险筛查、控制项目检查和判定三个阶段进行操作。该检查清单预计将在年内应用。
Kakao还将加强对儿童和青少年的保护检查。除了自2025年起实施的“数字儿童和青少年保护检查清单”外，Kakao计划在新检查清单中参考OECD和UNICEF的儿童在线风险分类体系（5Cs），加入AI特有的儿童风险检查要素。
金世雄 Kakao AI与技术伦理小组委员会主席表示：“通过外部咨询团和内部组织的观点，我们建立了一个在AI服务全周期中运作的风险审查体系。随着AI自主性的增强，我们将明确人类的判断和责任，致力于打造让用户安心使用的AI服务。”
此外，Kakao上个月与人工智能安全研究所签署了关于AI安全性共同评估及评估体系建设的合作协议。双方将共同评估AI模型和代理人的安全性，并推动开发识别风险因素的评估工具等工作。
※ 本报道经人工智能（AI）系统翻译与编辑。
