Anthropic公司最近因“米托斯冲击”成为全球AI行业的焦点。米托斯是一种超越“克劳德奥普斯”的代理型AI，曾用于美伊战争模拟。其出现不仅引发技术竞争，更提出了“如何控制AI”的根本问题。
米托斯被认为具备超越现有AI的自主性和问题解决能力，尤其在复杂的网络攻击场景中表现出色。然而，这种自主性也带来了巨大风险。AI代理在没有明确指令的情况下自行判断和行动，可能突破现有安全和控制体系。
实际中，失控行为的担忧已成为现实。尹成浩指出：“使用代理型服务时，可能会出现意外支付或未预料的外部沟通等失控案例。在企业环境中，这种问题可能导致数十亿韩元的决策或机密信息泄露，风险更大。”
在这种情况下，开发者中出现了“Mac Mini热潮”。他们利用高性能小型电脑Mac Mini构建“隔离网络”环境，以物理方式阻止信息泄露和未经授权的行为。
专家一致认为，未来AI应用的关键在于“可控的自主性”。尹成浩强调：“应为AI提供自由运作的‘游乐场’，但必须在反映企业安全和治理的环境中运行。比起模型性能，更重要的是建立精细的控制结构以安全使用AI。”
战争模拟结果显示，AI智能已在我们身边。如何在治理框架内安全利用这种智能，将成为产业竞争力的核心。
※ 本报道经人工智能（AI）系统翻译与编辑。
