人工智能（AI）如果给出错误答案，可以再次询问。然而，如果AI因错误判断而转账或交易股票，情况就大不相同。错误可以纠正，但已经转动的资金可能难以追回。随着AI从回答人类问题的时代进入自主判断和行动的阶段，新风险随之而来。 最近，全球AI行业对此变化的警告不断增加。AI在多大程度上能够准确执行人类指令，与其在既定权限和范围内进行控制的能力同样成为新的课题。因为在实现特定目标的过程中，AI可能会采取意想不到的行动或超出允许的权限。随着技术的高度发展，控制这些技术的人类能力也必须相应提升。 金融行业无疑是对这些变化最为敏感的行业。金融本质上是一个移动资金和管理风险的行业。小的判断错误可能导致巨大的金钱损失，一家金融公司的事故可能蔓延至其他公司和整个金融市场。虽然AI是提升金融效率的强大工具，但同时也可能带来前所未有的风险。 超越判断的行动AI…金融风险也发生了变化 实际上，AI正在迅速改变金融行业的面貌。银行的贷款审核、客户咨询、保险公司的理赔审核、证券公司的投资信息分析和资产管理等应用领域正在不断扩大。快速分析海量数据并能审查远超人类的变量，这无疑是显著的竞争优势。金融公司可以降低成本，提高工作效率，而消费者则能享受到更快速、更精细的服务。 此外，AI代理的出现预示着另一种变化。过去，AI主要负责信息分析和判断辅助，而未来则朝着连接多个系统并直接执行复杂工作的方向发展。这包括分析客户的财务状况，寻找合适的产品，调整投资组合，甚至执行资金转移。这是从辅助人类判断的技术向替代人类行为的技术的转变。 问题在于，随着AI活动范围的扩大，风险的性质也在变化。错误推荐贷款产品和实际批准错误贷款是两个不同的问题。提供不准确的投资信息与因错误判断直接进行交易同样是不同层面的风险。前者给人类提供了审查和修正的机会，而后者的判断则可能直接导致金钱损失。这也是为何不能将金融AI的发展仅视为简单的工作自动化延续的原因。 最近，国内金融界发生的一系列黑客事件也展示了AI时代的新风险。多家金融公司遭到攻击，客户信息被泄露，攻击过程中还可能使用了AI自动化工具。利用AI，攻击者能够比以往更快地探索系统并发现漏洞，这给现有的安全体系带来了新的压力。 然而，不能将此次事件的原因仅归咎于AI技术本身的风险。攻击者最终瞄准的是金融公司未能妥善管理的认证程序和安全漏洞。AI虽然可以加快攻击的速度和范围，但使攻击成为可能的却是现有安全体系的漏洞。为了应对新技术的威胁，基本的安全和内部控制必须有效运作，这是我们应吸取的教训。 除了外部的AI攻击，金融公司内部也存在需要警惕的风险。金融公司直接引入的AI可能超出控制范围。黑客是外部入侵者的问题，而金融公司使用的AI从一开始就可能被赋予访问内部系统的权限。如果在查询客户信息和处理交易的过程中，AI超出了允许的范围或做出了错误判断，那么仅靠外部防火墙无法解决问题。 迄今为止，金融公司的内部控制主要是基于人类行为设计的。每位员工都有不同的权限，重要交易设有审批程序，发生事故时追究责任。然而，在AI连续执行多项工作的环境下，这种角色分工和审批程序是否足够，需要重新审视。必须明确AI被赋予何种权限，以及允许多大程度的自主性。 责任归属也是一个重要课题。如果金融公司引入外部AI模型进行工作时发生事故，开发公司可能会声称没有技术缺陷，而金融公司则可能指责AI的意外判断。那么在责任争论持续的过程中，损害赔偿可能会延迟。AI并不是一个能够承担法律责任或赔偿损失的独立主体。无论技术如何发展，管理客户资产的金融公司的责任都不应模糊。 AI判断过程难以解释的“黑箱”问题同样与消费者保护息息相关。被拒绝贷款的客户，金融公司必须能够提供合理的解释。然而，如果AI基于复杂数据得出结论，而金融公司甚至无法清楚解释判断依据，那么消费者的权利保护将变得困难。因此，除了提高技术的准确性外，还需要建立对判断过程和结果负责的体系。 个别金融机构的合理选择，市场整体却面临风险 这些风险不仅限于个别金融公司，还可能扩散至整个金融市场。如果多家金融公司使用相似的AI模型和数据进行投资和风险评估，在危机情况下，它们可能会对相同信号做出反应，导致同时抛售资产或缩减贷款。个别公司的合理判断可能导致金融系统整体出现信用紧缩和波动性加剧的悖论。当金融公司的风险规避行为集中发生时，各自的安全选择可能会加剧市场整体的不安。 尤其是AI的判断和交易执行速度越快，人类介入的余地就越小。在经历过算法交易和高频交易的金融市场中，自主AI代理的结合可能会加速风险的扩散。人们在危机发生后再去理解和处理情况的传统方式是否足够，值得怀疑。 国际金融机构也将AI视为金融稳定的主要风险因素。金融稳定委员会（FSB）在6月发布了金融公司负责任引入AI的12项最佳实践建议。英格兰银行也将金融公司的核心决策、金融市场、外部AI服务供应商和网络威胁视为AI相关的主要风险路径。AI已不再仅仅是提高工作效率的工具，而是成为金融系统层面需要管理的课题。 尤其是对少数全球技术公司和云服务的高度依赖，可能导致新的集中风险。尽管个别金融公司运营着不同的产品和系统，但核心AI技术可能依赖于少数公司的模型和服务。如果某个AI服务出现故障或发现共同缺陷，多个金融公司可能会同时受到影响。AI在有效连接金融的同时，也可能成为风险扩散的通道。 将工作交给AI，但责任不能转移 然而，推迟或阻止金融引入AI并不是解决方案。AI不仅能提高生产力，还能在金融欺诈检测、异常交易监控、信用风险分析等方面增强金融系统的安全性。AI在以前人力无法覆盖的领域扩展金融服务的潜力也很大。重要的是，不是阻止技术的发展，而是要具备与其发展速度相匹配的控制能力。 为此，金融公司应在引入AI的业绩上更进一步。需要检查在哪些工作中使用AI，赋予了多大权限，出现错误行为时由谁来发现和制止。重要的金融交易应设有人工审批程序，并确保能够追踪AI的判断和行为记录。建立防止事故发生和阻止损害扩散的体系同样重要。 金融监管机构的监督方式也必然需要改变。除了现有的资本健康、流动性、内部控制和信息安全外，还需关注AI模型的风险和权限管理，以及对外部技术公司的依赖程度。需要检查个别金融公司的安全性，以及多家金融公司依赖相似AI可能带来的共同风险。开发AI的企业与将其应用于金融服务的公司之间的责任关系也应更加明确。 当然，无法事先完美地阻止所有风险。在互联网银行和移动金融普及的时期，安全和消费者保护的担忧也很大。然而，金融行业在利用技术的便利的同时，逐步完善安全机制。AI也应走这条路。只是在自主判断和行动的技术背景下，管理风险的范围和应对速度比以往更为重要。 在金融行业，信任不仅仅是企业形象。它是客户将资金托付给金融公司以及市场参与者之间进行交易的基本基础。金融公司通过AI降低成本、提高收益固然重要，但如果失去客户资金和信息安全的信任，这种效率将无法持久。AI在金融竞争力中占据主导地位的时代，金融的本质——信任和责任的价值将愈加重要。 如今，金融公司提出的问题也应有所改变。不是AI能替代多少人类工作，而是是否准备好管理在此过程中产生的风险。随着AI变得越来越智能，控制金融安全机制的能力也必须与之进化。金融公司可以将判断和工作交给AI，但不能将对结果的责任转移。AI时代金融的竞争力在于能够多大程度上将工作交给机器，而在于能多么有效地控制这些工作。※ 本报道经人工智能（AI）系统翻译与编辑。

随着人工智能（AI）从生成型AI向各个行业的扩展，国内股市对新的AI价值链的关注也在增加。从AI模型到半导体、数据、机器人、应用服务，产业生态系统正在迅速重组。《亚洲经济》将与那些在全球AI竞争中有望获得下一代增长动力并加入AI价值链的上市公司进行对话，探讨其商业战略和增长潜力。 "物理AI作为销售机器人业务难以成功。最终，能够提供服务并积累现场数据的企业将占据市场。" 心AI CEO 崔洪燮在最近与《亚洲经济》的采访中强调，生成型人工智能之后，物理AI作为下一代增长动力的核心竞争力在于其‘服务型商业模式’。他表示，心AI将不仅限于销售机器人和AI模型，而是将发展为一个提供从数据收集到学习、运营的全栈服务企业。 崔洪燮于2017年加入心AI（前身为Mindslab），并主导了从生成型AI到物理AI战略转型的过程。目前，他与代表尤太俊共同担任CEO，负责技术开发和商业化。 心AI成立于2014年，2021年在科斯达克市场通过技术特例上市。最近，该公司将物理AI作为未来的增长支柱，迅速扩大业务。2023年和2024年，企业用AI平台和AICC等代理AI的收入占总收入的95%以上，但去年物理AI的收入从4200万韩元激增至26亿4800万韩元，占总收入的27%。 崔洪燮将与LG电子共同进行的政府物理AI世界模型开发项目视为今年最重要的里程碑。该项目旨在开发可应用于制造现场的国产物理AI基础模型（基础模型），并验证其在实际工业现场的应用可能性。 他表示：“我们计划在年底前公开自主物理AI模型，并准备与之相关的大型活动，同时也计划在年内推出可在实际工厂中工作的自主双臂机器人。” 心AI之所以开始自主开发机器人，是因为在推进物理AI业务时意识到传统机器人销售方式的局限性。他解释道，仅仅交付机器人并不能立即投入生产现场，必须伴随工艺数据的收集、AI学习和反复的性能改进。 崔洪燮指出：“在工厂里放入一台机器人并不意味着它能立即工作。必须收集工艺数据，利用GPU进行模型学习，然后在出现其他工艺时重复相同的过程。客户几乎不可能独自完成所有这些过程。” 因此，心AI计划从明年开始不再销售机器人，而是以服务的形式提供。客户可以在没有初始投资负担的情况下使用机器人和AI，而心AI则负责数据收集、远程操作、模型学习和维护。 物理AI的市场氛围也在迅速变化。崔洪燮表示：“去年为了获得数千万韩元的小规模PoC（概念验证）项目而进行的销售，现在项目单价已经增长了3到4倍。”他补充道，来自大型制造项目、建筑和国防领域的咨询不断增加，合同规模也大幅扩大。 政府的研发环境也发生了变化。去年之前以LLM为中心的政府项目，今年开始扩展到物理AI领域，但能够执行这些项目的企业却极为有限。他表示：“今年政府项目的数量是自成立以来最多的。”并指出：“LLM有数千家公司在竞争，但物理AI市场的供应本身就不足，因此项目单价也在不断上升。” 崔洪燮认为，物理AI的高进入壁垒在于不仅需要AI，还需要硬件、仿真和设备内技术。他表示：“现在是硬件不再决定AI，而是为了让AI良好运作而设计硬件的时代。”并强调：“单独开发AI和机器人难以获得商业化竞争力。” 心AI的初步计划是由人远程操作机器人并积累数据，随着AI性能的提升，逐步建立一个人可以管理多台机器人的结构。崔洪燮表示：“最初一个人管理一台机器人，但随着数量增加到两台、五台、十台，盈利能力将大幅改善。”他表示：“即使保守估计，目标是实现超过50%的营业利润率的商业模式。”※ 本报道经人工智能（AI）系统翻译与编辑。

斗山Bobcat于2026年第二季度公布了销售额为2兆4479亿韩元，营业利润为2917亿韩元的初步业绩。 与去年同期相比，销售额增长11.2%，营业利润增长42.9%，净利润增长63.9%。斗山Bobcat表示：“销售额因系统检查导致部分货物延迟，但由于价格上涨而增加，营业利润则受益于美国关税退税的影响。”同时指出：“净利润的增长也得益于营业利润的增加和金融费用的减少。” 以美元计，销售额同比增长4%，达16亿3000万美元，营业利润增长34%，为1亿9500万美元。 按产品分类，小型设备和工业车辆的销售额分别同比增长4%和2%，而便携式电源恢复至去年水平。生产液压部件的斗山Motrol则实现了40%的增长。 按地区划分，北美由于有效的定价政策和叉车销售增加，销售额同比增长3%；而欧洲、中东和非洲则因小型设备需求恢复和汇率效应，增长了10%。亚洲、拉丁美洲和大洋洲虽然南美和大洋洲、印度地区的销售表现良好，但由于叉车销售不佳，整体下降了8%。 当天，斗山Bobcat董事会决定第二季度每股派息400韩元。斗山Bobcat根据企业价值提升计划，实施每年最低派息1600韩元及季度派息。 此外，斗山Bobcat上个月与人工智能解决方案公司“心AI”签署了关于建筑设备自主作业技术开发的谅解备忘录（MOU），以推动建筑设备领域的物理AI开发。※ 本报道经人工智能（AI）系统翻译与编辑。

国内物理人工智能（AI）市场正在迅速扩展到工业现场。与生成型AI在文本和图像制作等领域停滞不前不同，物理AI能够识别实际物理环境并自主判断行动，因此被视为下一代AI市场的核心支柱。 根据1日发布的《2026年国内外AI·数字市场展望与行业主要DX议题》报告，预计今年国内物理AI市场规模将达到约6.419万亿韩元。在以制造业为中心的国内市场，协作机器人、人形机器人和自动驾驶机器人等将引领物理AI的商业化进程。 市场增长势头也十分迅猛。三一会计法人表示，相关市场预计将从2025年的700亿美元（约10.5万亿韩元）增长到2030年的2300亿美元（约34.8万亿韩元）。同一时期，人形机器人市场预计将从600亿美元扩大到460亿美元。年均增长率分别为32.7%和52.1%，远超现有工业机器人市场的1.8%。 在国内物理AI初创企业中，纽罗美卡和心AI被视为代表。纽罗美卡在基于协作机器人的工业现场自动化方面表现突出，而心AI则基于AI代理和世界模型技术，获得了物理AI核心软件的竞争力。 纽罗美卡是一家同时提供协作机器人和自动化解决方案的国内初创企业。其竞争力在于不仅限于简单的机器人制造，还能根据客户的工艺进行系统业务。 该公司去年向教宗鸡等企业提供了协作机器人解决方案，并在包括浦项制铁在内的制造业现场推进基于协作机器人的自动化业务。特别是在船舶制造业的特定焊接领域，逐渐增强了存在感。 其代表产品是向HD现代机器人供应并应用于HD现代三湖造船厂的台车型焊接机器人‘OPTi-5’。OPTi-5采用基于传感器的焊接线跟踪技术，实时修正焊接路径误差，并应用了利用三维相机和触摸传感器的焊接线自动识别技术。 基于此，纽罗美卡目前正在准备进军人形机器人市场。纽罗美卡相关人士表示：“目前正在准备的新型人形机器人正在进行KCs自主安全确认报告，目标是在7月中旬完成认证，认证结束后将为大规模投入机器人到制造和工业现场提供法律安全网，计划正式商业化和接单。” 心AI是一家开发AI代理和物理AI解决方案的企业。成立于2014年，并于2021年在科斯达克市场上市。 最近，该公司被选为由科学技术信息通信部和信息通信规划评估院（IITP）支持的国家项目参与机构。参与由LG电子主导的‘为物理AI模型学习开发世界基础模型技术’项目，专注于自动驾驶和机器人控制解决方案的提升。 心AI的核心优势在于整合处理视觉、听觉等多模态数据的多模态AI技术，以及学习现实世界物理法则的世界模型技术。基于此，提供帮助机器人实时理解复杂工业现场环境并应对变量的软件。 业内人士表示：“初期物理AI市场集中于实现机器人硬件的运动，而未来人工智能软件的完善度将决定成败，硬件与软件的有机结合是市场落地的关键任务。”

现代汽车的劳资冲突在今年的工资谈判中依然难以找到共识。工资和绩效奖金的争议，加上在AI和电动化转型过程中出现的雇佣稳定问题，使得罢工的可能性被提上日程。现代汽车在过去的部分罢工中，估计每天的生产损失高达700亿韩元，因此如果罢工长期化，生产损失可能扩大到数千亿韩元。 据行业消息，现代汽车劳资双方于6日召开了今年工资谈判的首次会议，正式进入协商阶段。 工会向公司提出了月基本工资增加14万9600韩元、支付前一年净利润的30%作为绩效奖金、保障与AI相关的就业和劳动条件等要求。还包括将奖金提高800%、延长退休年龄、实施完全月薪制等要求。 今年的谈判中，除了传统的工资和绩效奖金争议外，生产体系变革的问题也逐渐浮现。现代汽车正在同时推进电动化、软件中心车辆(SDV)转型以及基于机器人和AI的生产自动化，工会对此对雇佣稳定和生产线重组的敏感反应也在增加。 尤其是电动汽车的转型被认为在部件数量和生产流程上较内燃机更为简单。业内人士认为，电动化转型可能会导致长期的生产人员重新配置和部分流程缩减。工会也担心AI和机器人引入的扩大可能会导致现场人员结构的变化。 现代汽车的劳资冲突在近年来反复出现。随着现代汽车在全球销售的扩大和汇率效应的影响，工会也要求增加特别绩效奖金和绩效分享。实际上，现代汽车在最近几年通过支付特别绩效奖金和回购股份等方式，部分满足了工会的要求。 然而，今年的情况与以往不同。由于美国的关税政策、全球电动汽车需求放缓、激励成本增加等外部因素的压力加大，同时还在进行大规模的未来汽车投资。 工会要求扩大绩效分享，但公司也必须考虑投资资金和盈利防御的压力。 现代汽车集团在劳务应对方面的加强也被视为紧张因素。集团最近将劳务总管职能提升至社长级别，并整合管理各子公司的劳资事务。这被解读为在“黄包袱法”实施后，原材料供应商的责任范围扩大和子公司共同应对的必要性增加所采取的措施。 有观点认为，如果罢工风险变为现实，生产损失的规模也将相当可观。现代汽车在2018年的部分罢工中，估计每天损失3500多辆、770亿韩元的生产。2023年4小时的部分罢工时，也提到约2000辆、530亿韩元的生产损失。 在去年的七年后部分罢工阶段，损失规模可能更大。业内分析认为，如果实现三天总计16小时的部分罢工，生产损失规模可能超过4000亿韩元。 这一数据是基于2016年长期罢工时约2.5万亿韩元的损失估算，并结合了最近车辆平均售价上涨和高利润车型如Genesis和大型SUV比例增加等因素进行计算的。 然而，生产损失金额与实际营业损失之间存在差异。生产损失金额是未能生产的车辆销售额的估算，之后通过加班和补班等方式可以弥补部分生产量。 相反，若罢工长期化，则可能因交货延迟、销售机会减少、出口计划受阻等，导致负担范围扩大。 尤其是乌山工厂是现代汽车全球生产体系的核心基地，负责国内和出口主力车型的生产，因此生产线停产将大大影响到合作伙伴和物流网络。若乌山工厂的生产损失长期化，预计将导致模块和部件供应商的开工率下降和现金流压力加大。 出口计划的压力也可能加大。现代汽车在北美市场的销售比例较高，最近美国的关税和激励成本压力也在增加。在这种情况下，若国内生产出现问题，将不可避免地影响到装船计划和库存管理。 业内人士表示：“现代汽车的劳资冲突不仅涉及特定工厂的运营问题，还与部件、物流和出口计划紧密相关。在北美出口和高利润车型生产比例增加的情况下，若谈判长期化，负担可能会扩展到整个合作伙伴，因此劳资双方尽早找到共识至关重要。”※ 本报道经人工智能（AI）系统翻译与编辑。

在展览入口处，巨大的叉车模型和危险感应传感器首先映入眼帘。人工智能（AI）不再是屏幕上的技术，而是进入工厂、建筑工地、会议室和展览现场，成为实际工作的技术。 由科学技术信息通信部主办、产业通商资源部支持的“2026世界IT展（WIS 2026）”于22日至24日在首尔三成洞COEX A·B·C馆举行。 此次活动吸引了来自17个国家的460家企业和机构参与，展示了从初创企业到全球企业的广泛技术趋势。 展会不仅是展示场地，也是商业活动的现场。1楼的“交流”区进行企业间的投资咨询，3楼则举办了全球ICT买家出口洽谈会。同时，还举行了会议、新技术发布会和投资说明会。 展览的关键词是AI从体验技术转变为现场实用技术。 在产业安全领域，初创公司Double T引起了关注。其展台展示的“海姆达尔”解决方案可提前检测工作场所的危险区域，并向工人发出警告。 传感器安装在现场各处，当接近高电流区域或滑倒危险区域时，通知会通过可穿戴设备或智能手机即时发送。公司表示，这项技术正在扩展到交通、建筑和物流领域。 在工作效率领域，结合实时翻译和文档自动化的技术引人注目。SconAI展示了一种解决方案，预先输入特定行业资料或会议主题后，系统会学习相关术语，并进行实时翻译、会议记录和摘要。对于频繁与海外合作伙伴合作的企业，这是一种实用的方式。 在制造现场，基于数据的AI深入生产线。半导体和材料企业Mico的子公司AISES展示了通过图像分析发现生产过程中的微小缺陷，并通过分析电流和气体数据检测设备异常的系统。 现场氛围与过去的IT展不同。技术不仅仅是展示，而是通过触摸和操作来确认其实用性。一些通信公司展台允许观众亲自操控叉车模型，并与AI化身进行对话。 所谓的“物理AI”也成为核心趋势。心AI展示了能够感知周围环境并自主移动的机器人“Jindo Bot”和协助展览运营的人形机器人“Woochi Bot”。这表明AI不仅限于软件，而是开始在实际空间中执行任务。 在展览中可以确认的一点是，AI不再是遥远的未来技术。它已经在各个产业现场运作，提供危险警告、降低语言障碍、发现不良品，并代替人类执行任务。 科学技术信息通信部第二次官柳济明表示：“世界IT展是观众亲身体验物理AI和先进技术融合的重要场所”，并希望“AI和ICT企业能在此分享创新技术成果，创造新的合作与成长机会”。※ 本报道经人工智能（AI）系统翻译与编辑。