KAIST（韩国科学技术院）成为国内唯一参与微软（MS）全球人工智能（AI）安全性研究项目的机构，开始致力于下一代AI安全与可信技术的开发。
KAIST于28日宣布，计算机科学系的孙秀尔教授被选为微软AI红队运营的全球AI安全性研究项目“EXTRA（外部红队联盟）”的研究支持对象。
EXTRA是微软AI红队今年新成立的全球研究支持项目，旨在从多角度验证AI系统的安全性和安全漏洞，扩大独立的AI安全性研究生态系统。该项目的意义在于不再仅将AI安全性评估局限于企业内部，而是扩展到全球的大学和研究机构。
微软认为，随着AI系统的高度发展，必须综合验证网络安全、多语言环境、地区和文化背景、AI对齐、滥用可能性等多个领域的专业性，但单一组织难以充分评估这些风险，因此推出了EXTRA项目。
EXTRA项目包括KAIST在内，参与的大学超过10所，覆盖全球六大洲。微软计划通过该项目扩大独立的AI安全性研究生态系统，并加强学术界与工业界之间的合作。
孙秀尔教授表示：“随着AI系统在社会各个领域的快速普及，确保其性能、安全性和可信性变得尤为重要。借助此次参与微软AI红队的EXTRA项目，我们将系统性分析实际AI服务环境中可能出现的各种安全威胁，为开发让每个人都能安心使用的AI技术贡献力量。”
※ 本报道经人工智能（AI）系统翻译与编辑。
