美国主要科技公司首席执行官们近日频频警告人工智能（AI）的风险，呼吁加强前沿模型的安全性验证。尽管国内有AI安全研究所负责此项工作，但由于基础设施严重不足，导致模型开发速度无法跟上。

根据16日AI安全研究所的消息，该研究所目前使用16台英伟达H200图形处理器对引入国内的AI模型进行安全性评估。

最新的AI模型需要处理约900至1500个复杂任务后，才能验证其安全性。使用研究所现有的16台H200进行一次模型评估需时7至10天，而一次基准测试的代币费用也高达5000万至6000万元。

AI安全研究所今年3月评估的模型为6个，但到上个月已增加至11个。每月有超过10个前沿模型涌现，研究所难以跟上这一速度。

AI安全研究所所长金明珠（首尔女子大学信息安全学教授）表示：“评估需求激增”，并指出“在资源不足的情况下，我们通过租用商业云会话来额外获取计算资源。”

由于基础设施不足，研究所优先评估对安全性敏感的模型。未能及时进行安全验证的AI模型在国内市场的使用案例也在增加。

目前优先评估的模型是中国的知名AI公司开发的前沿级模型“GLM 5.3”。由于近期安全装置被移除的GLM 5.3变体在互联网上流通，研究所认为有必要首先确认其实际被恶用的可能性。

被移除安全装置的模型可能生成正常AI应拒绝回答的软件漏洞或攻击代码。这不仅可能导致网络攻击，还可能提供化学和生物领域的危险信息，因此研究所正在观察其对危险请求的响应程度。

安全研究所也开始对OpenAI最近发布的前沿模型“阿斯特拉”进行评估。金所长表示：“由于多个模型的评估同时进行，预计结果会有所延迟。”

专家们指出，单靠16台H200难以全面评估阿斯特拉级前沿模型的安全性。为了进行超越简单问答的模型攻击测试和实时监控，需要与评估对象相似水平的模型和计算资源。

高丽大学AI研究所研究教授崔炳浩表示：“安全性研究需要的资源与提升模型性能的研究同样重要”，并强调“不仅需要GPU，还需提供相应的电力和空间，以及评估框架。”他补充道：“由于单一模型难以进行评估，因此需要结合API和开源模型等可用资源进行多模型评估。”

与此同时，关于AI开发速度与安全性的争论在全球AI行业中持续发酵。外媒报道，特朗普政府高级官员于15日（当地时间）与安特罗匹克高层会面，讨论AI安全问题。

安特罗匹克首席执行官达里奥·阿莫德伊主张应放缓AI开发速度，以留出时间来完善安全装置，而美国总统唐纳德·特朗普则因与中国的AI竞争而反对这一速度控制论。



※ 本报道经人工智能（AI）系统翻译与编辑。

• #计算资源
• #前沿模型
• #AI安全性