人工智能(AI)角色聊天行业正面临业务持续性和用户保护的考验。在美国，主要平台已进入破产保护程序，而国内相关企业的代表即将出席国会听证会。
根据10月16日的信息技术(IT)行业消息，美国角色聊天平台“角色.AI”最近申请破产保护，正在法院监督下推进资产出售。该公司由前谷歌开发者于2021年成立，提供用户自创AI角色对话或与小说、游戏中的角色进行角色扮演的服务，曾受到广泛欢迎。
然而，用户规模的扩大并未转化为盈利。持续的计算成本负担，加上针对未成年用户心理健康的诉讼和新规的应对，给业务带来了压力。
角色.AI于10月12日在美国特拉华州法院申请破产保护，并启动资产出售程序。迪士尼已提出包括部分知识产权的永久许可在内的2000万美元报价，但如果没有接盘方继续运营该平台，服务可能会终止。
这一案例表明，尽管角色聊天服务受到用户的高度关注，但其业务的可持续性却难以保障。由于服务的特性设计为与用户进行长时间的对话，AI模型的运营成本可能会累积，同时，为防止情感依赖和有害内容曝光所需的安全措施也需要持续投资，因此在竞争加剧的情况下，高成本低收益的结构可能会加剧。
在国内，关于角色聊天服务的责任和安全性讨论仍在继续。运营AI角色聊天服务“Zeta”的Scatter Lab代表金钟允因海外出差未能出席今年国会科学技术信息广播通信委员会的听证会。
去年，由于国会听证会的混乱，他未能接受相关质询，预计将在10月23日的教育委员会国会听证会上出席并接受质询。
国内外政治界和监管机构关注的焦点包括青少年有害内容的曝光、对AI角色的情感依赖、过度沉迷及个人信息保护等。由于用户与AI角色持续互动，如何有效实施年龄保护措施和有害对话阻断机制，以及企业在用户安全方面应承担的责任水平，成为主要课题。
业界人士表示：“角色聊天服务的核心在于与用户的持续互动，因此必须同时考虑用户保护和服务运营成本。扩大用户规模的同时，建立安全的服务环境和可持续的盈利模式将是行业的重要任务。”
※ 本报道经人工智能（AI）系统翻译与编辑。
