《华尔街日报》于10日报道，安特罗皮克在前一天发布的克劳德·佩布尔5的限制方式引发了AI开发者和用户的反对。
佩布尔5是安特罗皮克将其认为广泛公开存在风险的“米托斯”系列模型调整为普通用户使用的版本。
当用户涉及生物武器或网络安全等敏感主题时，系统会弹出提示信息，并将对话切换到前一代性能较低的模型。对于高级AI开发相关问题，系统也施加了降低回答质量的限制。
部分限制并未向用户显示。安特罗皮克解释称，由于国家安全和服务条款的原因，“对AI开发相关回答施加了不可见的限制”。因此，一些研究者指出，外部评估模型性能变得困难。
免疫学家德里亚·乌努特马兹·杰克逊研究所的研究员表示：“由于现有对话记录中包含生物学主题，甚至连‘癌症’这个词和问候语都无法输入。”
安特罗皮克对此不可见限制表示歉意。公司表示：“隐藏的安全装置使得验证和规避可能性更难，我们对此错误的折衷和未能保持平衡表示歉意。”并补充道：“未来将使这些限制对用户可见。”
对于生命科学领域的屏蔽，安特罗皮克解释称：“为了防止恶用，初期需要采取保守的应对措施。”同时表示：“将减少不必要的屏蔽，并向生物学和生命科学研究者提供无安全装置的佩布尔等米托斯级模型。”
※ 本报道经人工智能（AI）系统翻译与编辑。
