马斯克的xAI公司‘Grork’依赖成人内容扩展用户群
近日,马斯克领导的人工智能(AI)公司xAI被指在其聊天机器人‘Grork’的用户扩展过程中,严重依赖成人内容。生成淫秽图像和视频以及成人角色扮演聊天的活动,显著提升了流量,同时也引发了关于未经同意生成图像和安全管理不足的争议。 根据美国信息技术(IT)专业媒体《The Information》25日的报道,引用了两名最近在xAI工作的员工的话称,“Grork流量的超过一半与淫秽图像、视频生成和成人角色扮演聊天等‘后方注意’(NSFW)活动有关。”NSFW指的是在工作场所或公共场所不适合观看的成人、暴力和刺激性内容。 报道指出,成人内容的需求不仅出现在普通对话模型中,也在专门的编码模型中有所体现。一些用户利用成本更低的编码模型请求生成淫秽或裸露图像。 内部也出现了反对声音。前员工表示,“一些研究人员和工程师对Grork能够基于真实人物照片生成未经同意的性图像感到震惊。”部分员工因参与开发引发性别物化争议的AI头像‘Ani’而选择离开公司。 安全管理体系也受到质疑。报道指出,截至去年底,xAI的安全团队人数仅有6人左右,目前人数更少。 Grork此前因应用户请求生成涉及儿童的性图像而被一些国家封锁或调查。 这一争议也对马斯克的其他核心企业造成了压力。SpaceX在最近的企业公开(IPO)相关资料中警告称,“Grork的‘辣味’和‘不稳定’模式可能导致声誉受损、露骨内容、虚假信息、误导性结果和未经同意的图像生成等风险。”这表明Grork在提升xAI增长指标的同时,也可能成为马斯克企业生态系统面临的法律和监管风险。 此次争议预计将引发关于生成型AI企业在竞争中可以接受的界限的讨论。为了增加用户参与,若扩大刺激性功能,短期内流量可能增加,但若无法控制未经同意的图像和非法内容,以及青少年保护问题,可能会导致监管、诉讼和投资者的不信任。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-06-26 22:48:00