主页搜索
搜索
选择时间
搜索范围
全部的
‘红队测试’新闻 4个
-
国家情报局根据人工智能时代调整14年前制定的云政策国家情报局将根据人工智能(AI)的普及,整顿国家网络安全政策,包括云计算、网络和软件(SW)漏洞等方面。此举旨在支持公共领域的AI应用,并应对AI安全威胁,改进现有的安全标准和验证体系。 国家情报局于17日在首尔COEX举行的全球网络安全活动“网络峰会韩国(CSK)2026”上,公布了国家网络安全政策和AI安全政策的调整方向。 首先,将对制定已有14年的“国家云计算安全指南”进行调整,以适应AI和云技术环境的变化。公共领域在引入民间云时适用的安全标准也将根据国际标准和技术环境进行改进。 云计算等级体系的标准也将从系统转变为数据。目前根据系统的重要性分为高、中、低等级,而修订案将根据国家网络安全体系(N2SF)按照数据的重要性分为机密(C)、敏感(S)和公开(D)信息。 针对AI等新技术服务的云验证例外也将被设立。对于仅处理公开信息而不涉及敏感个人信息的公共机构,或依赖于特定目的设备的医疗机器人等云服务,将适用此例外。 云安全验证体系也将进行改革。国家科学技术信息通信部的评估和认证内容将作为基础,国家情报局将从以往的安全合规性确认方式,整合并以国家情报局为中心进行验证体系的运营。 国家情报局计划在2028年前建立国家漏洞数据库(DB),收集国内外流通的商业和公开软件的漏洞信息。漏洞报告、处理和公开制度也将在今年进行试点,计划于2028年扩展至国家公共机构。 网络安全体系也将从以往的网络隔离为中心转向N2SF。基于今年5月修订的国家网络安全基本指导方针,将考虑工作环境和数据重要性等因素,提升安全水平的应用体系。 针对AI本身的安全政策也将制定。国家情报局去年成立了国家人工智能安全中心,以应对AI安全威胁。今年上半年,针对290多个国家和公共机构进行了AI引入及安全管理现状的调查,并对其中17个机构进行了AI系统的安全检查和安全验证活动(红队测试)。
2026-09-18 00:24:00 -
SKT推出6880亿参数的独立AI模型,计划扩展至全民AI服务SK电信推出了6880亿参数规模的独立AI模型“A.X K2”,并进入政府的独立AI基础模型(独立AI)项目第三阶段。SKT AI CIC负责人유경상表示,未来将把这一技术扩展为全民日常可感知的AI服务。 유 CIC在24日的SKT新闻专栏中强调,模型性能、推理经济性、服务完整性和信任度结合的“智能改进循环”将是未来AI竞争力的关键。他指出,尽管针对前沿模型的研究竞争依然激烈,但现在的竞争在于如何高效分配已获得的智能,并将其转化为实际问题的解决方案。 对于A.X K2在独立AI项目第三阶段的进展,유 CIC表示,这不仅体现了技术性能,还获得了在国防、制造、法律和税务等实际行业中的应用认可。他指出,拥有优秀模型与运营数千万用户每日信任和使用的服务是两个不同的问题,强调了涵盖“基础设施-模型-服务”的全栈竞争力。 在确保推理经济性方面,유 CIC提出了以下方案:△在每次请求中选择激活部分参数的MoE(专家混合)结构;△根据问题难度调整思维深度的推理方式;△在保持质量的同时提高服务效率的轻量化和加速技术;△将简单查询交由轻量模型处理,而复杂任务则由大型模型处理的运营方式。他还指出,必须结合内存层管理和计算资源配置等系统和半导体层面的优化,才能在全国范围内实现可持续的经济性。 유 CIC将未来AI竞争的核心定义为“最快的智能改进循环”。他认为,在实际使用过程中发现失败点,并将其转化为评估和学习信号,从而改进模型和服务并重新分发的循环速度将决定竞争力。 他指出,AI服务的下一个阶段是超越简单回答问题的AI,转向能够代替用户执行任务并产生结果的AI。他强调,在代理时代,单靠个别模型的正确率无法解释服务质量,因为在计划、搜索、工具调用和执行等多个阶段中,微小的错误也可能累积,因此用户意图转化为实际结果的“端到端成功率”至关重要。 “全民AI”是SKT与金融、移动、媒体、教育、医疗、公共、税务、照护等领域的专业企业组成的财团共同推进的项目。유 CIC表示,SKT的角色并不是直接制作所有服务,而是将用户意图与最佳模型、技术和专业服务连接的“指挥者”。 在服务扩展方向上,计划从金融、移动、媒体、教育、健康等日常领域开始,逐步扩展到青年、小微企业、老年人等专业领域的税务、行政和照护等服务。关于确保信任度,유 CIC表示,将通过模型优化和服务加速技术提高响应速度,同时通过对模型质量的客观评估、常态AI红队测试、实时安全监控和保护措施,持续检查风险并安全处理个人信息和敏感信息,建立安全体系。 他表示:“信任并不是完全没有风险的状态,而是处理风险的能力。”他强调,发现风险、限制影响范围、快速恢复问题,并改进以避免同样错误重复发生的能力是负责任的AI运营的本质。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-08-25 00:28:00 -
OpenAI暂停AI强化学习进行安全检查随着生成型人工智能(AI)竞争的加剧,OpenAI决定暂时中止最新模型的强化学习,并进行安全性检查。这一措施旨在提前管理AI模型在性能和自主性提升过程中可能出现的安全风险,例如自我黑客行为。 OpenAI于19日宣布,将暂时放慢AI模型的扩展速度,强化监控、模型行为对齐及隔离环境的安全控制。特别是最新前沿模型的强化学习将暂停约两周,在此期间将进行小规模训练和安全性评估。 此次举措是为了应对安全威胁。随着AI模型的发展,超越了简单回答的能力,开始能够接触外部工具和环境,并自主执行任务,这增加了模型可能出现意外行为或影响外部系统的风险。 此前,OpenAI曾公开AI代理在受控环境外接触外部系统并进行黑客攻击的案例。此外,OpenAI表示,下一代模型“阿斯特拉”在其网络安全风险评估中可能被评为最高风险级别,因此暂停了一些开发工作。 OpenAI将加强安全控制,确保模型无法超出隔离环境,并建立网络隔离环境,以防外部服务受到侵害后不会扩散至互联网或内部开发网络。同时,安全相关的模拟训练(红队测试)和监控系统的适用范围也将扩大。 在AI推理过程中,监控系统将加强对异常行为的检测。一旦发现可疑行为,将启动自动调查系统,以确认数据泄露或安全控制被绕过的可能性。如果在规定时间内未确认异常迹象为误报,将暂停相关开发工作。OpenAI预计,为了进行这种监控,需要额外的计算资源,约占整体推理运算量的20%。 OpenAI还在加强对AI用户的保护措施。当地时间18日,OpenAI推出了面向13至17岁用户的“青少年版ChatGPT”。当系统判断用户未满18岁或用户自报为13至17岁时,将应用青少年体验,并加强对自残、暴力、饮食失调等敏感话题的保护措施。同时,提供家长管理使用时间等功能。 在青少年服务中,AI将限制与用户表达恋爱情感或引导情感依赖的互动。同时,为了支持学习,还将提供学习模式、测验等教育功能。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-08-20 00:04:00 -
首次举办的“安全研讨会”分享AI时代的安全技术与经验在人工智能(AI)重塑日常生活和工业的时代,技术的背后总是伴随着阴影。更复杂的网络钓鱼和针对大型语言模型的新攻击手法,已成为企业生存的关键问题。4月30日,Naver在京畿道城南市绿色工厂举办的“安全研讨会”回应了这一时代需求,分享了公司积累的安全知识。此次研讨会不仅是展示Naver安全技术的机会,更是提升整个生态系统免疫力的尝试。特别是关于安全构建大型语言模型的“AI红队测试”策略成为核心议题。红队测试是故意攻击服务以发现漏洞的活动,是确保AI回答可靠性和安全性的必要过程。此外,会议还包括线下支付环境和云基础设施运营经验等六个环节,为安全从业者提供实用见解。值得注意的是,自2015年以来实施的“漏洞赏金”计划的成果。今年首次线下举办的“2025 Naver漏洞赏金颁奖典礼”表彰了为安全提升做出贡献的专家。统计显示,2025年有126名国内外安全专家参与,共报告了255个漏洞。尽管报告数量比去年减少了13.8%,但平均处理时间缩短至25天,减少了28.5%。这表明Naver内部的安全质量提高,同时响应组织的敏捷性也有了显著进步。累计奖励金额达到3.39万美元,证明了与安全社区的健康共生关系。Naver个人信息保护负责人李珍圭明确表示,安全是支持创新的核心竞争力。他表示:“在AI时代,攻击威胁快速演变的环境下,我们希望分享团队积累的见解,并加强全球安全竞争力。”※ 本报道经人工智能(AI)系统翻译与编辑。
2026-05-01 03:33:01
-
国家情报局根据人工智能时代调整14年前制定的云政策国家情报局将根据人工智能(AI)的普及,整顿国家网络安全政策,包括云计算、网络和软件(SW)漏洞等方面。此举旨在支持公共领域的AI应用,并应对AI安全威胁,改进现有的安全标准和验证体系。 国家情报局于17日在首尔COEX举行的全球网络安全活动“网络峰会韩国(CSK)2026”上,公布了国家网络安全政策和AI安全政策的调整方向。 首先,将对制定已有14年的“国家云计算安全指南”进行调整,以适应AI和云技术环境的变化。公共领域在引入民间云时适用的安全标准也将根据国际标准和技术环境进行改进。 云计算等级体系的标准也将从系统转变为数据。目前根据系统的重要性分为高、中、低等级,而修订案将根据国家网络安全体系(N2SF)按照数据的重要性分为机密(C)、敏感(S)和公开(D)信息。 针对AI等新技术服务的云验证例外也将被设立。对于仅处理公开信息而不涉及敏感个人信息的公共机构,或依赖于特定目的设备的医疗机器人等云服务,将适用此例外。 云安全验证体系也将进行改革。国家科学技术信息通信部的评估和认证内容将作为基础,国家情报局将从以往的安全合规性确认方式,整合并以国家情报局为中心进行验证体系的运营。 国家情报局计划在2028年前建立国家漏洞数据库(DB),收集国内外流通的商业和公开软件的漏洞信息。漏洞报告、处理和公开制度也将在今年进行试点,计划于2028年扩展至国家公共机构。 网络安全体系也将从以往的网络隔离为中心转向N2SF。基于今年5月修订的国家网络安全基本指导方针,将考虑工作环境和数据重要性等因素,提升安全水平的应用体系。 针对AI本身的安全政策也将制定。国家情报局去年成立了国家人工智能安全中心,以应对AI安全威胁。今年上半年,针对290多个国家和公共机构进行了AI引入及安全管理现状的调查,并对其中17个机构进行了AI系统的安全检查和安全验证活动(红队测试)。
2026-09-18 00:24:00 -
SKT推出6880亿参数的独立AI模型,计划扩展至全民AI服务SK电信推出了6880亿参数规模的独立AI模型“A.X K2”,并进入政府的独立AI基础模型(独立AI)项目第三阶段。SKT AI CIC负责人유경상表示,未来将把这一技术扩展为全民日常可感知的AI服务。 유 CIC在24日的SKT新闻专栏中强调,模型性能、推理经济性、服务完整性和信任度结合的“智能改进循环”将是未来AI竞争力的关键。他指出,尽管针对前沿模型的研究竞争依然激烈,但现在的竞争在于如何高效分配已获得的智能,并将其转化为实际问题的解决方案。 对于A.X K2在独立AI项目第三阶段的进展,유 CIC表示,这不仅体现了技术性能,还获得了在国防、制造、法律和税务等实际行业中的应用认可。他指出,拥有优秀模型与运营数千万用户每日信任和使用的服务是两个不同的问题,强调了涵盖“基础设施-模型-服务”的全栈竞争力。 在确保推理经济性方面,유 CIC提出了以下方案:△在每次请求中选择激活部分参数的MoE(专家混合)结构;△根据问题难度调整思维深度的推理方式;△在保持质量的同时提高服务效率的轻量化和加速技术;△将简单查询交由轻量模型处理,而复杂任务则由大型模型处理的运营方式。他还指出,必须结合内存层管理和计算资源配置等系统和半导体层面的优化,才能在全国范围内实现可持续的经济性。 유 CIC将未来AI竞争的核心定义为“最快的智能改进循环”。他认为,在实际使用过程中发现失败点,并将其转化为评估和学习信号,从而改进模型和服务并重新分发的循环速度将决定竞争力。 他指出,AI服务的下一个阶段是超越简单回答问题的AI,转向能够代替用户执行任务并产生结果的AI。他强调,在代理时代,单靠个别模型的正确率无法解释服务质量,因为在计划、搜索、工具调用和执行等多个阶段中,微小的错误也可能累积,因此用户意图转化为实际结果的“端到端成功率”至关重要。 “全民AI”是SKT与金融、移动、媒体、教育、医疗、公共、税务、照护等领域的专业企业组成的财团共同推进的项目。유 CIC表示,SKT的角色并不是直接制作所有服务,而是将用户意图与最佳模型、技术和专业服务连接的“指挥者”。 在服务扩展方向上,计划从金融、移动、媒体、教育、健康等日常领域开始,逐步扩展到青年、小微企业、老年人等专业领域的税务、行政和照护等服务。关于确保信任度,유 CIC表示,将通过模型优化和服务加速技术提高响应速度,同时通过对模型质量的客观评估、常态AI红队测试、实时安全监控和保护措施,持续检查风险并安全处理个人信息和敏感信息,建立安全体系。 他表示:“信任并不是完全没有风险的状态,而是处理风险的能力。”他强调,发现风险、限制影响范围、快速恢复问题,并改进以避免同样错误重复发生的能力是负责任的AI运营的本质。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-08-25 00:28:00 -
OpenAI暂停AI强化学习进行安全检查随着生成型人工智能(AI)竞争的加剧,OpenAI决定暂时中止最新模型的强化学习,并进行安全性检查。这一措施旨在提前管理AI模型在性能和自主性提升过程中可能出现的安全风险,例如自我黑客行为。 OpenAI于19日宣布,将暂时放慢AI模型的扩展速度,强化监控、模型行为对齐及隔离环境的安全控制。特别是最新前沿模型的强化学习将暂停约两周,在此期间将进行小规模训练和安全性评估。 此次举措是为了应对安全威胁。随着AI模型的发展,超越了简单回答的能力,开始能够接触外部工具和环境,并自主执行任务,这增加了模型可能出现意外行为或影响外部系统的风险。 此前,OpenAI曾公开AI代理在受控环境外接触外部系统并进行黑客攻击的案例。此外,OpenAI表示,下一代模型“阿斯特拉”在其网络安全风险评估中可能被评为最高风险级别,因此暂停了一些开发工作。 OpenAI将加强安全控制,确保模型无法超出隔离环境,并建立网络隔离环境,以防外部服务受到侵害后不会扩散至互联网或内部开发网络。同时,安全相关的模拟训练(红队测试)和监控系统的适用范围也将扩大。 在AI推理过程中,监控系统将加强对异常行为的检测。一旦发现可疑行为,将启动自动调查系统,以确认数据泄露或安全控制被绕过的可能性。如果在规定时间内未确认异常迹象为误报,将暂停相关开发工作。OpenAI预计,为了进行这种监控,需要额外的计算资源,约占整体推理运算量的20%。 OpenAI还在加强对AI用户的保护措施。当地时间18日,OpenAI推出了面向13至17岁用户的“青少年版ChatGPT”。当系统判断用户未满18岁或用户自报为13至17岁时,将应用青少年体验,并加强对自残、暴力、饮食失调等敏感话题的保护措施。同时,提供家长管理使用时间等功能。 在青少年服务中,AI将限制与用户表达恋爱情感或引导情感依赖的互动。同时,为了支持学习,还将提供学习模式、测验等教育功能。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-08-20 00:04:00 -
首次举办的“安全研讨会”分享AI时代的安全技术与经验在人工智能(AI)重塑日常生活和工业的时代,技术的背后总是伴随着阴影。更复杂的网络钓鱼和针对大型语言模型的新攻击手法,已成为企业生存的关键问题。4月30日,Naver在京畿道城南市绿色工厂举办的“安全研讨会”回应了这一时代需求,分享了公司积累的安全知识。此次研讨会不仅是展示Naver安全技术的机会,更是提升整个生态系统免疫力的尝试。特别是关于安全构建大型语言模型的“AI红队测试”策略成为核心议题。红队测试是故意攻击服务以发现漏洞的活动,是确保AI回答可靠性和安全性的必要过程。此外,会议还包括线下支付环境和云基础设施运营经验等六个环节,为安全从业者提供实用见解。值得注意的是,自2015年以来实施的“漏洞赏金”计划的成果。今年首次线下举办的“2025 Naver漏洞赏金颁奖典礼”表彰了为安全提升做出贡献的专家。统计显示,2025年有126名国内外安全专家参与,共报告了255个漏洞。尽管报告数量比去年减少了13.8%,但平均处理时间缩短至25天,减少了28.5%。这表明Naver内部的安全质量提高,同时响应组织的敏捷性也有了显著进步。累计奖励金额达到3.39万美元,证明了与安全社区的健康共生关系。Naver个人信息保护负责人李珍圭明确表示,安全是支持创新的核心竞争力。他表示:“在AI时代,攻击威胁快速演变的环境下,我们希望分享团队积累的见解,并加强全球安全竞争力。”※ 本报道经人工智能(AI)系统翻译与编辑。
2026-05-01 03:33:01