코인정보

유민수 에이투시스 CRO:K-AI需通过精炼与优化应对美中竞争

金那胤 기자 2026-09-02 17:48
AI代理的电力消耗增加至最高140倍,延迟时间增加5.2倍 必须摆脱高成本推理结构,转向K-AI生态系统
유민수 에이투시스 CRO(KAIST教授)在2026年9月2日于首尔中区的The Plaza酒店举行的第18届善良增长与良好就业论坛上发表主题演讲。
유민수 에이투시스 CRO(KAIST教授)在2026年9月2日于首尔中区的The Plaza酒店举行的第18届善良增长与良好就业论坛上发表主题演讲。 [照片=유대길 기자]

"在AI代理时代,要克服电力和内存的限制,生存于美中竞争中,我们必须转向以精炼和优化为中心的K-AI战略,而非单纯增加运算能力。"

유민수 艾图系统首席研究官(CRO,KAIST教授)在2026年9月2日于首尔中区The Plaza酒店举行的第18届善良增长与良好就业论坛上强调了这一点。
 
유 CRO曾任职于英伟达(NVIDIA),是一位计算机系统及图形处理器(GPU)架构专家,最近创办了AI基础设施初创公司“艾图系统”。他在论坛上以“K-AI,通过精炼与优化应对中国竞争”为主题,展示了在从对话型聊天机器人向自主AI代理转变的过程中出现的系统负担和电力危机问题的定量研究结果。
 
유 CRO指出:“尽管OpenAI的‘星际门’、Meta的‘海波里昂’等全球大型科技公司正在建设数十吉瓦(GW)规模的超大型AI数据中心,但现有的基础设施和电力网络在可持续性方面存在明显的限制。”
 
根据유 CRO研究团队对AI代理算法的分析,与单纯输出文本的通用大型语言模型(LLM)聊天机器人系统相比,AI代理的响应延迟时间平均增加了5.2倍以上。现有的LLM在接收到输入后立即输出结论,而AI代理则需要与外部工具如网页浏览器进行沟通,反复进行思考和行动,直到目标达成。
 
유 CRO解释道:“为了让AI代理不忘记之前的对话记录和搜索结果,它需要不断地将信息存储在内存中,因此存储空间(KV缓存)迅速被填满。”他指出,现有数据中心的内存设计假设崩溃,导致计算处理速度急剧下降,内存不足的问题加剧。
 
当AI需要更长时间进行思考和计算以提高准确率时(测试时间缩放),电力消耗量也随之增加。유 CRO强调:“处理单个代理查询时,GPU的电力和能量消耗量比现有的简单聊天机器人增加了最高136.5至140倍。”
 
유 CRO研究团队估算了如果AI代理的流量扩展到谷歌搜索水平(每日约137亿次),所需的数据中心电力需求将达到198.9GW(约200GW)。这一数字接近美国整体电力网络容量(约476.9GW)的半数,令人震惊。
 
유 CRO表示:“现在不仅仅是GPU数量的获取问题,电力供应和数据中心的商业用地本身也变得稀缺。”他诊断道:“无节制地投入资源的随机运算方式在成本效益和单价方面已经达到了明显的极限。”
 
在美中霸权竞争中,유 CRO提出了改善高成本推理结构的“以精炼与优化为中心的K-AI战略”作为克服资本和基础设施差距的解决方案。他指出:“单纯投入计算资源以提高性能的方式会导致成本与准确度提升幅度减小的‘单价降低’现象。”他强调:“专注于代理AI工作负载的特化系统和软件优化技术是韩国强大的武器,因此国家应集中力量在基础设施效率的极限上进行技术创新。”




※ 本报道经人工智能(AI)系统翻译与编辑。

《 亚洲日报 》 所有作品受版权保护,未经授权,禁止转载。