코인정보

OpenAI考虑调整先进AI模型开发速度,与其他AI企业协调

彭博社报道 萨姆·奥特曼在本周全员会议上提到
萨姆·奥特曼在美国北卡罗来纳州举行的二十国集团(G20)财长和央行行长会议上发言
萨姆·奥特曼在美国北卡罗来纳州举行的二十国集团(G20)财长和央行行长会议上发言[照片=路透社·联合新闻]


据彭博社10日报道,OpenAI正在考虑在先进AI模型开发中调整速度的可能性,消息来源称,OpenAI首席执行官萨姆·奥特曼在本周的全员会议上暗示,OpenAI可以通过与其他AI企业协调来调整AI开发的速度。然而,他也指出,其他企业可能不同意这一方案。奥特曼在7月份曾与白宫官员讨论过调整AI开发速度的必要性。
这一言论是在OpenAI、Anthropic等主要AI企业的先进AI模型开发竞争日益激烈,伴随而来的黑客攻击等风险日益突显的背景下提出的。例如,本周,Anthropic的研究员雅各布·科克森在宣布辞职时警告称,AI模型开发竞争可能导致AI失控,十年内人类可能面临灭绝的风险。
此外,在7月底,OpenAI、Anthropic、谷歌、Meta等主要AI企业的1100多名员工发布声明,呼吁建立国际体系以调整AI开发速度。当时,OpenAI首席科学家雅库布·帕乔基表示:“没有人能够应对机器智能持续快速发展的后果”,对AI的过度发展表示警惕。
实际上,随着AI模型性能的不断提升,恶意使用的迹象也开始显现。当天,《纽约时报》报道,Anthropic已阻止了利用其AI模型Claude进行生物武器开发的尝试。
与此同时,随着AI模型开发竞争带来的风险日益突出,英伟达首席执行官詹森·黄预测,人工智能的下一个巨大市场将是网络安全领域。黄在旧金山举行的高盛主办的科技会议上表示:“网络安全将成为AI的下一个主要应用领域。”他解释说,利用AI模型进行计算机编程的自动化使得恶意代码的利用速度加快,与此同时,修复和调整代码的速度也在加快,从而改变了网络安全行业的格局。
奥特曼本周还与美国电力公司讨论了加强电网安全以应对AI网络攻击的方案,相关消息由美国政治专业媒体《政治报》报道。



※ 本报道经人工智能(AI)系统翻译与编辑。

《 亚洲日报 》 所有作品受版权保护,未经授权,禁止转载。