主页搜索
搜索
选择时间
搜索范围
全部的
‘漏洞探测’新闻 2个
-
网络安全成为前沿人工智能的实战测试平台，韩国应对安全特化模型网络安全正成为前沿人工智能（AI）实战性能验证的主要测试平台。安全领域不仅需要进行简单的问答或文档生成，还需进行大规模代码分析、漏洞探测、攻击路径推断以及漏洞利用的制作，这些都成为检验AI长期推理和自主代理能力的舞台。 据韩国互联网振兴院（KISA）22日透露，政府正在加强国家层面的AI安全体系，以应对利用高性能AI的网络威胁。政府在今年5月通过了《基于AI的网络威胁应对民间信息保护推进计划》，并提出了从2027年起逐步转向基于自主AI技术的国内信息保护体系的目标。 全球AI企业也在扩大其在网络安全领域的技术竞争。最近，Anthropic的Mitos和OpenAI的“GPT-5.5-网络安全”等强化安全能力的AI模型相继推出，使得AI的应用范围从以对话和文档生成为主，扩展到漏洞分析和攻击、防御的执行。 网络安全被认为是同时验证AI推理能力和自主性的领域。实际的安全工作不仅需要简单的知识检索，还需理解复杂的代码和攻击路径，并经过多个判断步骤来验证结果。 漏洞分析和漏洞利用的制作需要高水平的推理能力。漏洞利用是将安全弱点实际应用于攻击的代码或技术，要求理解庞大代码库的上下文，追踪控制流，提出假设并通过概念验证（PoC）进行验证。因此，零日漏洞探测或CTF（黑客问题解决任务）能力被用作评估AI代理实战水平的指标。 KISA威胁应对政策团队负责人金恩成指出，安全特化AI的特点在于可以同时用于攻击和防御。除了漏洞探测和红队等攻击性安全外，还可以应用于威胁猎捕、安全监控中心（SOC）自动化、自动补丁生成等防御工作。 不仅要将AI应用于安全，保护AI本身的问题也日益重要。“为安全而AI（AI for Security）”是指利用AI提升漏洞探测、入侵事件分析和响应自动化等现有安全工作的概念。 而“为AI而安全（Security for AI）”则是指保护AI模型和系统免受提示注入、模型窃取、数据污染、供应链威胁等影响。这两个领域并不是独立的，随着AI应用的扩大，必须共同建立安全体系。 政府和KISA重视国内安全特化基础模型的获取，背景在于韩国特有的威胁环境和数据主权问题。韩国面临来自朝鲜等特定攻击主体的威胁，并暴露于韩国特有的攻击技术中，同时拥有韩文（HWP）文档、网络隔离、文档安全（DRM）等特化的工作和安全环境。 因此，KISA认为，海外通用模型难以充分反映这种环境，且将系统构成或使用软件等敏感信息传递给海外服务也并不容易。 与其在通用AI中与全球大型科技公司正面竞争，不如集中在安全等特定领域的战略。金恩成表示，虽然短期内难以缩小与通用前沿模型的差距，但如果是针对韩国安全环境进行集中学习的特化模型，则有可能提高竞争力。 他认为，直接与通用前沿AI竞争以占领市场并不容易，因此建立适合韩国安全环境的基础模型，提高专业性是一个方向。金恩成表示：“跟随一个学科、一个学科的发展是安全特化基础模型的方向。”
2026-09-22 21:24:10 -
科技部审查安全专用AI模型应对网络威胁科学技术信息通信部（科技部）表示，为应对日益复杂的基于AI的网络威胁，正在审查开发安全专用AI模型的必要性。 8日，科技部信息保护网络政策室室长崔宇赫在首尔光华门举行的简报会上表示：“目前仅靠现有的信息保护体系难以应对基于AI模型的威胁，大家对此达成了共识。”他指出，讨论了开发专门针对网络安全的独立AI模型的必要性。 当天上午，科技部召开了产学研专家座谈会，讨论全球AI企业在网络安全项目中的应对方案。座谈会邀请了SK电信、Upstage、Motif Technologies等参与独立AI基础模型（独立AI模型）开发的企业，以及主要AI企业、韩国信息保护学会会长和主要企业的首席信息安全官（CISO）等。 科技部表示，短期内将提升现有安全专用模型的性能，长期则考虑建立基于独立AI模型的安全应对体系。 崔室长表示：“大家对如何有效利用独立AI模型建立安全专用AI体系达成了共识。”他补充道：“目前尚未确定具体的推进方案，仍在讨论必要性。”他还表示：“预计在5月底至6月初期间将阐述信息保护范式的变化方向。” 据悉，座谈会上还介绍了基于AI的渗透测试示例。科技部与韩国互联网振兴院（KISA）利用Anthropic的Opus模型，探测了特定企业服务的漏洞，并演示了从账户盗取到绕过访问的整个过程。 崔室长指出：“即使不知道现有密码，AI也能找到生成新密码的漏洞。”他进一步解释道：“AI探测到漏洞并获取账户后，成功访问了服务。” 根据科技部与KISA的报告，此次测试发现了7种漏洞。尤其是，AI在10分钟内完成了专业黑客通常需要数天才能完成的漏洞探测工作。 崔室长表示：“AI在短时间内找到了专业黑客需要几天才能发现的漏洞。”他指出：“虽然目前普通用户难以直接使用，但随着专业黑客的提示使用能力提高，攻击速度可能会加快。” 另外，刘济明副部长将于11日与Anthropic方面会面，讨论基于AI的网络安全威胁应对方案。崔室长表示：“随着对Mitos相关应对的必要性提出，政府已主动请求合作。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-09 01:22:49
-
网络安全成为前沿人工智能的实战测试平台，韩国应对安全特化模型
网络安全正成为前沿人工智能（AI）实战性能验证的主要测试平台。安全领域不仅需要进行简单的问答或文档生成，还需进行大规模代码分析、漏洞探测、攻击路径推断以及漏洞利用的制作，这些都成为检验AI长期推理和自主代理能力的舞台。 据韩国互联网振兴院（KISA）22日透露，政府正在加强国家层面的AI安全体系，以应对利用高性能AI的网络威胁。政府在今年5月通过了《基于AI的网络威胁应对民间信息保护推进计划》，并提出了从2027年起逐步转向基于自主AI技术的国内信息保护体系的目标。 全球AI企业也在扩大其在网络安全领域的技术竞争。最近，Anthropic的Mitos和OpenAI的“GPT-5.5-网络安全”等强化安全能力的AI模型相继推出，使得AI的应用范围从以对话和文档生成为主，扩展到漏洞分析和攻击、防御的执行。 网络安全被认为是同时验证AI推理能力和自主性的领域。实际的安全工作不仅需要简单的知识检索，还需理解复杂的代码和攻击路径，并经过多个判断步骤来验证结果。 漏洞分析和漏洞利用的制作需要高水平的推理能力。漏洞利用是将安全弱点实际应用于攻击的代码或技术，要求理解庞大代码库的上下文，追踪控制流，提出假设并通过概念验证（PoC）进行验证。因此，零日漏洞探测或CTF（黑客问题解决任务）能力被用作评估AI代理实战水平的指标。 KISA威胁应对政策团队负责人金恩成指出，安全特化AI的特点在于可以同时用于攻击和防御。除了漏洞探测和红队等攻击性安全外，还可以应用于威胁猎捕、安全监控中心（SOC）自动化、自动补丁生成等防御工作。 不仅要将AI应用于安全，保护AI本身的问题也日益重要。“为安全而AI（AI for Security）”是指利用AI提升漏洞探测、入侵事件分析和响应自动化等现有安全工作的概念。 而“为AI而安全（Security for AI）”则是指保护AI模型和系统免受提示注入、模型窃取、数据污染、供应链威胁等影响。这两个领域并不是独立的，随着AI应用的扩大，必须共同建立安全体系。 政府和KISA重视国内安全特化基础模型的获取，背景在于韩国特有的威胁环境和数据主权问题。韩国面临来自朝鲜等特定攻击主体的威胁，并暴露于韩国特有的攻击技术中，同时拥有韩文（HWP）文档、网络隔离、文档安全（DRM）等特化的工作和安全环境。 因此，KISA认为，海外通用模型难以充分反映这种环境，且将系统构成或使用软件等敏感信息传递给海外服务也并不容易。 与其在通用AI中与全球大型科技公司正面竞争，不如集中在安全等特定领域的战略。金恩成表示，虽然短期内难以缩小与通用前沿模型的差距，但如果是针对韩国安全环境进行集中学习的特化模型，则有可能提高竞争力。 他认为，直接与通用前沿AI竞争以占领市场并不容易，因此建立适合韩国安全环境的基础模型，提高专业性是一个方向。金恩成表示：“跟随一个学科、一个学科的发展是安全特化基础模型的方向。”
2026-09-22 21:24:10 -
科技部审查安全专用AI模型应对网络威胁
科学技术信息通信部（科技部）表示，为应对日益复杂的基于AI的网络威胁，正在审查开发安全专用AI模型的必要性。 8日，科技部信息保护网络政策室室长崔宇赫在首尔光华门举行的简报会上表示：“目前仅靠现有的信息保护体系难以应对基于AI模型的威胁，大家对此达成了共识。”他指出，讨论了开发专门针对网络安全的独立AI模型的必要性。 当天上午，科技部召开了产学研专家座谈会，讨论全球AI企业在网络安全项目中的应对方案。座谈会邀请了SK电信、Upstage、Motif Technologies等参与独立AI基础模型（独立AI模型）开发的企业，以及主要AI企业、韩国信息保护学会会长和主要企业的首席信息安全官（CISO）等。 科技部表示，短期内将提升现有安全专用模型的性能，长期则考虑建立基于独立AI模型的安全应对体系。 崔室长表示：“大家对如何有效利用独立AI模型建立安全专用AI体系达成了共识。”他补充道：“目前尚未确定具体的推进方案，仍在讨论必要性。”他还表示：“预计在5月底至6月初期间将阐述信息保护范式的变化方向。” 据悉，座谈会上还介绍了基于AI的渗透测试示例。科技部与韩国互联网振兴院（KISA）利用Anthropic的Opus模型，探测了特定企业服务的漏洞，并演示了从账户盗取到绕过访问的整个过程。 崔室长指出：“即使不知道现有密码，AI也能找到生成新密码的漏洞。”他进一步解释道：“AI探测到漏洞并获取账户后，成功访问了服务。” 根据科技部与KISA的报告，此次测试发现了7种漏洞。尤其是，AI在10分钟内完成了专业黑客通常需要数天才能完成的漏洞探测工作。 崔室长表示：“AI在短时间内找到了专业黑客需要几天才能发现的漏洞。”他指出：“虽然目前普通用户难以直接使用，但随着专业黑客的提示使用能力提高，攻击速度可能会加快。” 另外，刘济明副部长将于11日与Anthropic方面会面，讨论基于AI的网络安全威胁应对方案。崔室长表示：“随着对Mitos相关应对的必要性提出，政府已主动请求合作。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-09 01:22:49
