코인정보

网络安全成为前沿人工智能的实战测试平台,韩国应对安全特化模型

安信慧 기자 2026-09-22 12:28
Anthropic和OpenAI相继推出强化安全能力的AI模型,应用范围扩大至漏洞分析、攻击和防御 KISA表示:AI与安全必须共同推进,既要利用AI,也要保护AI模型 考虑到朝鲜等韩国特有威胁、HWP和网络隔离环境,政府推动安全特化基础模型的获取
KISA威胁应对政策团队负责人金恩成在21日解释AI与网络安全的变化及安全特化基础模型的必要性。 [图片=KISA]
KISA威胁应对政策团队负责人金恩成在21日解释AI与网络安全的变化及安全特化基础模型的必要性。 [图片=KISA]


网络安全正成为前沿人工智能(AI)实战性能验证的主要测试平台。安全领域不仅需要进行简单的问答或文档生成,还需进行大规模代码分析、漏洞探测、攻击路径推断以及漏洞利用的制作,这些都成为检验AI长期推理和自主代理能力的舞台。

据韩国互联网振兴院(KISA)22日透露,政府正在加强国家层面的AI安全体系,以应对利用高性能AI的网络威胁。政府在今年5月通过了《基于AI的网络威胁应对民间信息保护推进计划》,并提出了从2027年起逐步转向基于自主AI技术的国内信息保护体系的目标。

全球AI企业也在扩大其在网络安全领域的技术竞争。最近,Anthropic的Mitos和OpenAI的“GPT-5.5-网络安全”等强化安全能力的AI模型相继推出,使得AI的应用范围从以对话和文档生成为主,扩展到漏洞分析和攻击、防御的执行。

网络安全被认为是同时验证AI推理能力和自主性的领域。实际的安全工作不仅需要简单的知识检索,还需理解复杂的代码和攻击路径,并经过多个判断步骤来验证结果。

漏洞分析和漏洞利用的制作需要高水平的推理能力。漏洞利用是将安全弱点实际应用于攻击的代码或技术,要求理解庞大代码库的上下文,追踪控制流,提出假设并通过概念验证(PoC)进行验证。因此,零日漏洞探测或CTF(黑客问题解决任务)能力被用作评估AI代理实战水平的指标。

KISA威胁应对政策团队负责人金恩成指出,安全特化AI的特点在于可以同时用于攻击和防御。除了漏洞探测和红队等攻击性安全外,还可以应用于威胁猎捕、安全监控中心(SOC)自动化、自动补丁生成等防御工作。

不仅要将AI应用于安全,保护AI本身的问题也日益重要。“为安全而AI(AI for Security)”是指利用AI提升漏洞探测、入侵事件分析和响应自动化等现有安全工作的概念。

而“为AI而安全(Security for AI)”则是指保护AI模型和系统免受提示注入、模型窃取、数据污染、供应链威胁等影响。这两个领域并不是独立的,随着AI应用的扩大,必须共同建立安全体系。

政府和KISA重视国内安全特化基础模型的获取,背景在于韩国特有的威胁环境和数据主权问题。韩国面临来自朝鲜等特定攻击主体的威胁,并暴露于韩国特有的攻击技术中,同时拥有韩文(HWP)文档、网络隔离、文档安全(DRM)等特化的工作和安全环境。

因此,KISA认为,海外通用模型难以充分反映这种环境,且将系统构成或使用软件等敏感信息传递给海外服务也并不容易。

与其在通用AI中与全球大型科技公司正面竞争,不如集中在安全等特定领域的战略。金恩成表示,虽然短期内难以缩小与通用前沿模型的差距,但如果是针对韩国安全环境进行集中学习的特化模型,则有可能提高竞争力。

他认为,直接与通用前沿AI竞争以占领市场并不容易,因此建立适合韩国安全环境的基础模型,提高专业性是一个方向。金恩成表示:“跟随一个学科、一个学科的发展是安全特化基础模型的方向。”





※ 本报道经人工智能(AI)系统翻译与编辑。

《 亚洲日报 》 所有作品受版权保护,未经授权,禁止转载。