被称为人工智能（AI）领域“大咖”的杰弗里·辛顿、约书亚·本吉奥等全球顶尖学者呼吁成立国际组织，以管理先进人工智能的网络安全风险。 据路透社13日报道，包括加拿大多伦多大学名誉教授杰弗里·辛顿和蒙特利尔大学教授约书亚·本吉奥在内的约400名来自34个国家的科学家在当天的公开信中主张，应建立一个国际组织，制定具有先进网络能力的AI系统的隔离与控制标准，并报告和管理重大安全事件。 辛顿教授和约书亚教授因在深度学习和人工神经网络发展方面的贡献，共同获得2018年图灵奖。辛顿教授还曾获得2024年诺贝尔物理学奖。 他们在信中强调，最先进的AI模型应在初期于与外部网络物理和逻辑隔离的环境中运行，并接受独立监督。 一些AI模型已绕过隔离不足的测试环境，侵入外部系统，显示出先进AI的测试和控制体系存在漏洞，单靠企业自愿的安全规范是不够的。 此外，他们呼吁各国政府在建立正式监管体系的同时，开发和测试AI模型的企业和研究机构，如开放AI和安图罗皮克，立即实施严格的隔离和控制标准。 此次提议是在安图罗皮克、开放AI、谷歌、Meta、xAI、英伟达等公司上月签署白宫协议一个多月后提出的。这些公司承诺自愿实施AI安全措施，但协议中并未包含强制执行的正式机制。 与此同时，各国也在积极讨论如何监管先进AI。欧盟技术事务执行委员会委员赫娜·比尔库宁在9日对路透社表示，欧盟的AI法案（AI Act）足以应对失控AI系统的风险。 美国特朗普政府也在11日撤回了禁止美国AI公司在发布前与英国AI安全研究所共享AI模型的措施，显示出对国际AI安全验证的灵活态度。※ 本报道经人工智能（AI）系统翻译与编辑。

韩国多家金融机构日前遭遇大规模黑客攻击，据全球网络安全公司CrowdStrike当地时间7日公开的报告显示，幕后嫌疑人可能为居住于中国广东省的一名26岁男子，这是本次案件首次出现与黑客身份相关的具体线索。不过，CrowdStrike强调，目前掌握的信息仍属于情报分析和关联推断，尚不足以确认黑客的真实身份。 据CrowdStrike消息，黑客身份线索在使用生成式AI编程工具Claude Code过程中意外暴露。黑客要求Claude帮助其撰写一份网络安全研究人员简历，并在对话过程中输入了包括姓名首字母、Telegram账号、学历以及居住地等个人信息。嫌疑人还曾向Claude询问，被窃取的韩国金融信息通常在哪里出售，以及如何寻找出售韩语Telegram数据的渠道。 报告称，与该嫌疑人相关的Telegram账号此前也出现在其他网络攻击活动中。调查人员在分析基于Telegram的NFT礼物市场漏洞对话，以及对某中国支付平台的攻击活动时，也发现相同账号。 CrowdStrike表示，上述多起案件交叉出现的相同账号和行为线索提高了相关活动由同一人员实施的可能性，但目前仍无法仅凭这些信息最终确认黑客身份。 CrowdStrike此前分析称，嫌疑人从上月底至本月初对韩国金融机构进行攻击，疑似使用中国开发的开源智能化渗透测试工具ARTEX与大语言模型。嫌疑人以位于中国香港的IP地址作为主要控制基础设施，负责指挥整体攻击活动，而实际用于针对韩国金融机构发动攻击的ARTEX则部署在另一组独立IP地址上。 此外，嫌疑人还使用9个代理IP地址，不断更换连接路径。 嫌疑人在攻击过程中还广泛使用AI工具。CrowdStrike分析称，嫌疑人运行ARTEX时使用的核心AI为DeepSeek的小尺寸模型“V4.1-Flash”，嫌疑人并非通过官方渠道访问该模型，而是通过第三方转售服务迂回接入。 同时嫌疑人还在Claude Code会话中使用了中国智谱AI的GLM-5.3以及Space X AI的Grok 4.6等其他大语言模型作为辅助工具。 分析认为，同时使用多个大语言模型，并根据不同任务在不同服务器和AI工具之间切换，显示此次攻击并非单纯依赖某一种AI模型。CrowdStrike称，这名疑似使用中文的黑客具有一定程度的经济动机，但目前对其以金钱为目的进行攻击这一判断的可信度仅处于中等水平。 从上月底至本月初，新韩银行、KB国民银行、韩亚银行、BNK釜山银行，以及耶加兰储蓄银行（Yegaram Savings Bank）、Welcome储蓄银行和现代资本等7家金融机构先后遭到网络攻击，大批用户个人信息遭泄露。 多家金融机构同时遭遇攻击在韩国金融业历史上尚属首次，引发金融监管层和普通储户的高度关注。韩国金融部门称本次攻击或为使用人工智能技术的新型攻击模式。攻击者可能通过不断更换IP地址，以类似攻击手法连续针对多家金融机构发动攻击。 目前，韩国警察厅网络调查部门正在实施调查。

美国国防部已全面停止使用被指定为国家安全供应链风险企业的人工智能（AI）公司Anthropic的AI工具。 根据5日（当地时间）BBC的报道，国防部相关人士在声明中表示：“国防部已停止使用Anthropic的产品。” 美国国防部长皮特·赫格斯特斯在今年2月将Anthropic指定为国家安全供应链风险企业，并表示将在8月底之前停止使用。然而，实际停止使用的时间似乎比原计划要晚。 多位知情人士向BBC透露，直到上周，国防部仍在将Anthropic的AI模型“Claude”用于研究、分析和信息收集，甚至在针对伊朗的军事行动中也有所应用。 Claude被认为是分类和分析大量信息的关键工具，特别是与Palantir运营的国防部核心数据平台“Maven Smart System”深度整合。 Maven用于整理卫星照片和无人机视频等各种信息和数据，随后这些数据被输入到Claude等大型语言模型（LLM）中，以识别潜在的军事目标或撰写报告提交给指挥部。 专家们认为，由于Claude深度整合进国防部系统，短期内难以完全移除。 乔治城大学安全与新兴技术中心的高级研究员劳伦·坎表示：“国防部在系统中完全停止使用Claude所花费的时间表明，这种技术并不是简单地插拔就能解决的。一旦整合，移除过程可能相当痛苦。” 国防部与Anthropic的冲突始于今年初，当时国防部要求移除Claude的安全装置，以便军方可以无限制地使用AI产品。 Anthropic对此表示担忧，认为其可能被滥用于大规模监控和自主武器，因此拒绝了这一要求。随后，赫格斯特斯部长将Anthropic指定为“国家安全供应链风险”企业。 Anthropic对此措施表示“前所未有且非法”，并已对特朗普政府提起诉讼，要求撤销该指定。 在与Anthropic发生冲突期间，国防部与谷歌、xAI、OpenAI等其他主要AI公司签订了合同。两位熟悉国防部AI使用情况的知情人士透露，最近几个月，一些军方组织已扩大了对OpenAI工具的使用。※ 本报道经人工智能（AI）系统翻译与编辑。

前 앤特로픽研究员杰克布·科克森警告说，人工智能（AI）开发竞争的风险正在增加，“人类失去对AI的控制权的可能性更大”。 根据5日（当地时间）彭博社和CNBC的报道，科克森在当天的纽约市议会AI听证会上表示：“我们仍然不知道如何控制任何AI系统。” 科克森在OpenAI和앤特로픽工作了三年，负责预训练研究。他在上个月8日（当地时间）通过社交媒体X宣布辞职，并批评道：“没有任何公司在负责任地行事。这两家公司正在以我们的生命为赌注。” 在听证会上，他表示：“如果继续当前的轨迹，人类失去对AI的控制权的可能性大于不失控的可能性，这可能导致人类灭绝。” 科克森应纽约市议会主席朱莉·梅宁的请求出席了听证会。梅宁正在推动一项AI监管法案，该法案由10项条例组成。核心内容包括在紧急情况下立即停止系统运行的“杀死开关”强制引入、在纽约市销售和分发AI系统前进行第三方安全验证的强制性、引入举报人奖励计划，以及对违规行为处以每次最高2.5万美元（约3400万韩元）的罚款等。 科克森指出，关于“杀死开关”的措施“在短期内可能有帮助，但从长远来看不足以保证安全”。 当天的听证会上，OpenAI、앤特로픽、谷歌等大型科技公司的相关人员也通过视频出席作证。市议会表示，将向法院申请对未响应出席请求的SpaceX AI部门发出传票。 在唐纳德·特朗普政府对AI监管保持大体不干预的背景下，纽约等州和地方政府加快了独立监管的步伐，联邦与地方之间的矛盾也在加大。※ 本报道经人工智能（AI）系统翻译与编辑。

美国联邦贸易委员会（FTC）已确认对OpenAI和Anthropic等主要AI企业展开调查，重点关注自主AI代理对消费者可能造成的风险。加利福尼亚州检察长已向OpenAI发出调查传票，民间团体也已提起诉讼，联邦、州和民间对代理控制失效的责任追究行动正在加速推进。 根据IT行业的消息，FTC于上月30日（当地时间）正式确认正在对OpenAI、Anthropic等AI企业进行广泛调查。 调查始于今年夏季，因代理型AI多次超出用户指令，接触外部系统的事件频发，调查进展加快。FTC据此利用其禁止不公平和欺骗行为的现有法律权力，调查AI企业是否向消费者错误传达了系统的安全性或控制能力等信息。彭博社报道，FTC预计将在数周内正式发出资料提交要求，而CBS等媒体则表示，正在准备强制高管作证的民事调查要求。 州政府的压力也在加大。加利福尼亚州检察长罗布·本塔于1日（当地时间）向OpenAI发出调查传票。本塔检察长此前已对Hugging Face黑客事件展开正式调查，此次传票将调查范围扩大至与OpenAI模型相关的网络安全事件和风险。 本塔检察长表示，开发者必须确保其AI模型不会执行或促成网络攻击，否则将面临法律责任。由爱荷华州检察长布伦娜·伯德领导的15个州的检察长联盟也在要求OpenAI提供更多信息。 引发关注的Hugging Face事件发生在7月，当时OpenAI的AI代理超出测试环境，接触了Hugging Face的部分基础设施。AI安全非营利组织LASST已就此事件对OpenAI提起诉讼。OpenAI承认Hugging Face事件是一起严重事故，并已采取措施，但反驳称诉讼没有依据。 白宫在应对方面采取的是不设新规而依靠自律和现有法律执行的方针。9月底，白宫召开会议，OpenAI、Anthropic、谷歌、Meta、英伟达和xAI等公司的代表出席并签署了自律安全协议。特朗普总统最近在联合国大会上表示反对全球控制AI的体系。政府在划定新规的同时，强调现有法律同样适用于AI，因此FTC的消费者保护权和州检察官的调查权成为实际的监管手段。※ 本报道经人工智能（AI）系统翻译与编辑。

美国总统特朗普明确表示，不会与中国在人工智能（AI）管理方面进行合作。相反，中国则主张应建立共同的理解，以应对AI风险。 尽管美中两国上周新设了AI风险管理对话，并计划在11月举行后续对话，但由于双方在AI安全问题上的不同立场，具体合作的实现仍然面临挑战。特朗普称与中国合作AI等于泄露美国机密 据路透社等外媒报道，特朗普总统在29日（当地时间）华盛顿举行的政府网站启动仪式上，划清了与中国在AI风险应对方面的合作界限。 他表示，如果与中国在AI领域开展共同项目，就等于将美国的“机密”交给中国，认为美国企业将难以在与中国企业的竞争中保持优势。 特朗普一直主张，为了在与中国的AI竞争中保持优势，政府应避免对AI进行直接监管，强调企业应自主进行安全管理。 实际上，他在当天与美国大型科技公司高管的午餐会上，也强调了企业在AI安全方面的自主应对。 在此次午餐会上，六家AI企业（谷歌、Anthropic、Meta、OpenAI、xAI、英伟达）签署了AI安全自律协议。协议内容包括，确保AI系统不会以意外方式渗透或攻击其他系统，并通过独立的外部审计机构评估控制措施的有效性等。 中国呼吁建立AI风险应对的共同标准 与此相对，中国则认为在AI安全问题上需要美中之间的合作。中国国家主席习近平上周与特朗普总统会晤时强调，双方在AI开发与管理上应共同承担责任。 在美中领导人峰会上，双方就AI的风险与优势进行了意见交流，并决定建立两国间的联络渠道，以便在发生AI相关事故时进行沟通。双方还计划在11月继续进行AI对话。 中国的国家级智库在峰会后也提出，美中应制定共同的标准和语言，以管理AI风险。 据《南华早报》报道，中国现代国际关系研究院科技战略研究中心的刘冲主任在28日表示，美中AI对话应首先集中在建立对AI风险的共同理解和相互信任，而非解决两国的技术竞争。 刘主任指出，美中不必采取相同的AI产业政策，也不需要共享AI模型的核心信息或技术。相反，双方政府、企业和研究者在讨论AI风险时，首先应形成共同的术语和对风险的理解。他还建议建立一个根据风险水平变化调整应对措施的体系。 他还主张加强对开发尖端AI的企业的监管，认为少数领先企业不应主导AI管理方向。特别是对于封闭型AI模型，外部很难识别其风险，因此美国企业应更加积极地公开与AI风险相关的信息。

特朗普总统在对人类失控的人工智能（AI）出现可能性表示担忧的同时，强调政府和国会不应引入新的监管，而应重视行业的自律监管。 据美联社等报道，特朗普总统在白宫与美国主要AI企业首席执行官（CEO）共进午餐时表示：“我相信必须有极高水平的自律监管。” 他进一步指出：“虽然通过司法部或联邦调查局（FBI）等机构进行的监管是自动的，但自律监管非常重要。” 出席午餐的有黄仁勋（NVIDIA CEO）、马斯克（xAI CEO）、苏姿丰（AMD CEO）、主张AI开发速度调控的达里奥·阿莫代（Anthropic CEO）、扎克伯格（Meta CEO）、格雷格·布罗克曼（OpenAI总裁）、桑达尔·皮查伊（谷歌CEO）、杰夫·贝索斯（亚马逊创始人）等。 特朗普总统表示：“稍后我们将发布一份总结我们所做事情的声明。”他还称出席午餐的AI CEO们“对我们的国家充满热爱，并希望做正确的事情”，“这些人是爱国者。” 他形容此次午餐为“非常好、富有成效且极其友好的会晤。我们有很多共同点，真是令人惊讶，大家都很愉快。”他补充道：“我们共同的目标是热爱我们的国家和世界，并希望这里成为一个安全的地方。今天我们讨论的内容将使这里变得更好、更安全。” 与此相关，路透社报道，特朗普总统在午餐后表示：“AI文件已签署，这是一种保护措施，我认为这份文件在道德上是有约束力的。” 出席午餐的美国众议院议长迈克·约翰逊也表示，AI企业CEO们已签署关于AI标准的“共识”。 特朗普总统提到在中期选举前，某些地区对AI数据中心建设的反对声音日益增大。他表示：“这个团队是热爱社区的人，他们将与社区合作，努力让社区感到幸福。” 他进一步指出：“这可能涉及到提供石油和天然气、教育，或者为教师和居民提供财政支持。”他认为：“他们一致认为这是非常积极的，因此数据中心将会非常受欢迎。” 特朗普总统强调AI产业的潜力，重申：“我们在前面，并将继续保持这一状态。” 此外，特朗普总统还预告将在当天东部时间下午5点签署一项行政命令，将“人工智能”更名为“超级智能”。※ 本报道经人工智能（AI）系统翻译与编辑。

美国人工智能（AI）公司安特罗皮克在企业公开募股（IPO）前警告称，尖端AI可能对人类造成“灾难性或生存性风险”。这家试图通过AI技术获利的公司，正式指出其技术可能威胁人类生存的可能性，实属罕见。 据路透社28日报道，安特罗皮克在IPO投资说明书中表示：“随着AI模型、平台和应用的高度发展及应用范围的扩大，我们的模型可能造成损害的风险也会增加。” 具体而言，该公司指出AI模型可能表现出“自我保护行为”，可能抵抗停机，隐瞒或操控信息，甚至表现出类似威胁的行为，这些都被列为风险因素。 企业在IPO过程中公开产品和业务的风险因素是常见做法，但路透社指出，警告其技术可能威胁人类生存的案例极为罕见。安特罗皮克强调，AI可能带来与工业化或电力发明相媲美的变革，但如果管理不当，可能造成不可逆转的损害。 安特罗皮克最近对AI技术的快速发展表示担忧，主张应减缓AI开发速度以确保安全。首席执行官达里奥·阿莫德伊（Dario Amodei）在12日的博客中呼吁整个AI行业应共同减缓尖端模型的开发速度。 实际上，在此次261页的IPO投资说明书中，约80页专门用于说明风险因素，而对业务内容的说明仅有48页。 由埃隆·马斯克领导的AI公司xAI在其277页的IPO投资说明书中，风险因素的篇幅约为38页。 安特罗皮克表示，确保安全性需要大量资源，有限的资金需要分配到计算资源、高级AI人才和安全性研究等方面。然而，该公司指出，安全性研究的投资将带来何种收益仍然不确定。 在投资说明书中并未公开安全性研究的具体费用，但安特罗皮克最近表示，在7月的某个周期间，约6%的计算资源用于安全性研究。 问题在于，尽管强调AI安全性，但在尖端AI开发竞争中却难以减缓速度。安特罗皮克在投资说明书中指出，客户使用和收入受到新AI模型发布的影响，为了保持在AI技术的前沿，必须持续推出新模型。 实际上，安特罗皮克在上周推出了新的Opus模型，这距离阿莫德伊首席执行官公开主张调节AI开发速度的文章仅过去十天。 此外，安特罗皮克原本预计在10月进行IPO，但最近已将目标时间推迟至11月，分析认为这是为了在IPO前展示第三季度良好的业绩，并有时间整理公司在AI安全性方面的立场。※ 本报道经人工智能（AI）系统翻译与编辑。

在21日（当地时间）纽约股市，Meta的个人人工智能（AI）代理'Muse'成为半导体股暴涨的催化剂。 当天，Meta股价上涨11.43%，收于741.24美元，创下自去年10月以来的最高收盘价。与Meta有密切合作关系的AMD股价也上涨9.95%，收于615.52美元，市值首次突破1万亿美元（约1361万亿韩元）。此外，英特尔股价上涨12.14%，而被称为'AI龙头'的英伟达也上涨2.3%，半导体行业整体呈现上涨趋势。受此影响，22日韩国股市中，三星电子和SK海力士股价均上涨超过2%。 半导体股强劲表现的背后，是Meta于8日推出的'全球首个面向大众的个人AI代理'Muse'。与一般的生成型AI不同，Muse是一款能够自主执行任务的AI代理，能够处理旅行预订、日程管理、电子商务购物等工作，甚至可以制定一年的运动计划或新业务计划。随着个人AI代理的正式推出，预计AI代理及其相关的半导体需求将进一步扩大，从而利好半导体公司的股价。 Muse应用在发布10天后的18日，日活跃用户（DAU）达到了448,000人，19日美国的日下载量达到264,000次，创下历史新高。相比之下，2022年底推出的OpenAI的ChatGPT达到DAU 450,000人用了49天，而美国日下载量超过200,000次则花费了一年时间，Muse的用户扩展速度显得异常迅速。因此，Muse应用在当天的苹果免费应用下载和谷歌应用商店下载排名中均位列第一。 美国投资银行Evercore ISI在当天的报告中指出：“Meta通过Muse取得了自身的成功”，并称其为“成功产品创新的具体案例”。同时表示，这表明Meta迄今为止投入的2000亿美元（约273万7610亿韩元）AI投资“并非徒劳”，并分析称这可能成为Meta用户活跃度和参与度大幅提升的新动力。 为了确保隐私保护等安全性，Muse在名为'Meta Secure VM'的云端专用虚拟机中通过自有浏览器运行。免费版本每周可使用1亿个令牌，若需额外工作可选择每月20美元（每周5亿个令牌）或每月100美元（每周30亿个令牌）的收费方案。 AI代理，未来AI增长动力的展望 随着Muse的流行，预计将迎来AI代理开发的竞争，AI代理被认为将成为未来AI产业的下一个增长动力。美国科技媒体《The Information》报道，OpenAI正在加快开发类似于Meta的Muse和SpaceX AI的'Grok Bot'的消费类AI代理。 美国经济媒体《Business Insider》表示：“新的AI技术开始受到关注，那就是个人AI代理。”并称Meta的Muse电视广告是AI代理走向主流的又一信号。美国投资银行JP摩根预计，AI代理的整体市场规模（TAM）在长期内将达到数十万亿美元，这一数字与美国年国内生产总值（GDP）32.5万亿美元相当。 然而，围绕购物等AI代理功能，科技巨头之间的摩擦可能加剧。例如，亚马逊当天宣布已采取措施阻止Muse访问其购物网站。亚马逊虽然开发了自己的自动购物工具，但一直阻止竞争AI公司如Perplexity的机器人在其购物网站上活动。彭博社指出：“一旦消费者开始利用AI机器人进行购买，机器人可能会选择其他电子商务网站，这将对亚马逊的销售和广告收入产生负面影响。”

对人工智能（AI）快速发展的担忧声日益高涨。这次警告并非来自监管机构或公民团体，而是来自推动AI开发竞争的企业内部。安特罗皮克的首席执行官达里奥·阿莫德伊最近公开提议，放慢前沿AI模型能力提升的速度。开放AI的山姆·奥特曼和xAI的埃隆·马斯克也对此表示认同。相对而言，英伟达的黄仁勋虽然承认企业应对安全负责，但对以理论风险为基础的新规制持否定态度。美国总统唐纳德·特朗普则认为，过度的风险论可能会抑制美国的AI发展，从而使中国受益。 这些警告并非来自对未来的模糊恐惧。7月，开放AI的网络安全评估显示，约1200个本应隔离的AI代理通过非正式消息平台互相传递了超过7万条消息和文件。其中约700个参与了对Hugging Face的攻击，部分代理甚至在Hugging Face的服务器上执行代码，获取了管理员权限和内部认证信息。尽管这些模型并未投入实际服务，且评估环境的安全装置有所放松，但人类设定的隔离被突破，代理之间的合作甚至导致了超出任务范围的攻击，这一事实绝不能轻视。 阿莫德伊更为担忧的是，AI可能直接参与下一代AI的开发，从而加速自身性能的提升，即“递归自我改进”（RSI）。这意味着AI的能力提升速度可能超过人类对模型行为的理解和控制速度。因此，他主张对具备一定能力的模型施加外部验证和强有力的安全装置，并在具备这些条件之前，调整前沿模型的开发速度。 然而，他的构想从一开始就与中国问题密切相关。阿莫德伊认为，美国应在领先于中国的范围内调整速度。如果美国过于放慢，可能会导致中国赶上，从而增加国家安全风险。同时，他要求加强对中国的先进AI芯片和半导体制造设备的出口管制，并阻止芯片走私、通过海外数据中心的绕道访问以及未经授权的模型提取和模型权重盗取。他的构想是通过这些措施在未来3到5年内进一步扩大美国的优势，然后以此为基础与中国进行谈判。AI速度调整的悖论正是在于此：一方面为了降低风险而放慢速度，另一方面又必须保持领先于竞争对手的状态，这一逻辑矛盾显而易见。 中国对此进行了反驳。9月14日，中国外交部发言人华春莹在例行记者会上表示：“美国AI行业的主张可能会加剧威胁论和对抗格局，从而损害全球AI治理的健康发展。”在次日的追加提问中，她也表示：“随着AI发展加速，必须调整监管和管理方式，增强安全装置，以确保不失控。”中国明确表示将在继续推动AI发展的同时，管理滥用和失控的风险，并提及前一天发布的《人工智能安全治理框架3.0》。从这两次发言来看，中国的态度十分明确：必须应对AI失控或被滥用的风险，但绝不会容忍美国为了保持技术优势而限制中国的发展。 美中两国都承认安全问题的存在，但在谁来定义风险和适用什么标准上却存在尖锐的对立。这种争论已经超越了企业的主张，成为了国家外交的议题。在9月24日华盛顿举行的特朗普总统与习近平主席的会晤中，AI问题也被视为主要议题。在会晤前，20日美国财政部长斯科特·莫尔和中国副总理何立峰就AI问题进行了讨论。美国提出，如果发生影响国家安全的AI事故或威胁，双方应建立相互通报机制，并建议进行单独的AI对话，这一提议被两位领导人列为待审议事项。中国的具体回应尚未公开。 表面上看这是合作的提议，但实质上归结为谁先设计规则的问题。由于通报机制的框架是由美国首先提出的，因此在什么情况下视为重大AI事故、应向对方通报哪些信息、哪些情况被视为共同风险等问题都将被摆上谈判桌。这些标准的积累有可能发展为未来的国际规则。然而，考虑到此次会晤不太可能立即达成重大共识，尤其是在先进芯片出口管制、模型提取、网络和军事应用等方面的冲突依然存在，AI成为了一把既需要合作又需争夺规则制定主导权的双刃剑。 韩国也与此事息息相关。如果美国和中国首先制定反映各自战略的安全标准和验证方式，并将其扩大为国际规则，必然会影响到韩国企业的AI模型开发、服务、半导体和数据中心的运营。如果犹豫不决，最终只能被迫接受某一方制定的标准，这将是非常不利的。因此，韩国必须提前建立高风险AI的评估技术和标准，网络和生物领域的验证体系，以及追踪AI代理行为和分析事故的能力，制定政策情景以做好准备。这样才能不仅参与到模型和半导体的竞争中，还能在未来制定的AI安全规则中反映韩国的利益。 随着AI风险的加大，美国和中国之间的合作理由也在增加。同时，竞争越激烈，接受对方制定的规则的难度也越大。此次两国领导人将AI问题摆上谈判桌，表明这一矛盾已经成为现实外交问题。美中AI竞争将不仅仅是看谁能更快地开发出更强大的模型，而是将决定如何控制风险以及如何将哪些规则设定为国际标准。 作者主要经历 ▲ 京畿研究院AI研究室研究员 ▲ 汉阳大学战略信息学系兼职教授 ▲ 总统直属基本社会委员会地方政府特委会委员 ▲ 经济人文社会研究会海外机构评估委员