
三星电子在即将推出的人工智能(AI)眼镜发布前,正全力以赴制定防止侵犯隐私和作弊等滥用行为的安全措施。随着最新的AI眼镜技术发展到几乎无法与普通眼镜区分的程度,偷拍和考试作弊等滥用现象日益严重,确保安全性已成为关键任务。
据业内消息,三星电子在AI眼镜开发过程中获得的专利中,约10%涉及隐私和滥用防止相关技术。该公司正在与谷歌共同开发基于安卓XR(扩展现实)的AI眼镜,应用多种隐私保护和滥用防止技术,包括能够通知拍摄行为的白色发光二极管(LED)功能,以及判断眼镜是否正常佩戴的“佩戴检测”功能。
针对故意破坏安全装置的行为也进行了防范。如果拍摄通知的LED被贴上胶带或用手遮挡,设备会判断遮挡程度,若遮挡超过一定水平则会停止工作。若LED损坏或检测到故意操作,也会限制拍摄功能等。
三星电子还设立了专门的隐私和滥用防止技术团队。该团队的工程师们正在研究可能的滥用案例,并从设计阶段开始制定防范措施。
三星电子在产品开发阶段加强安全装置的原因在于,AI眼镜与现有智能设备相比,存在更大的个人信息侵犯风险。结合了摄像头、传感器和麦克风的AI眼镜,能够自然地收集和分析用户所见场景及周围信息。与使用智能手机拍照不同,外界很难立即察觉是否在拍摄,随着设备的普及,第三方的个人信息保护问题可能会更加突出。
政府也在AI眼镜商业化前开始制定对策。最近,个人信息保护委员会与三星电子相关人士会面,讨论AI眼镜的个人信息保护方案,并要求在产品开发阶段减少个人信息侵犯的可能性,应用“隐私保护设计(Privacy by Design,PbD)”原则。特别是,若佩戴者拍摄周围影像或收集信息,需设置光亮或声音等额外通知装置,以便他人能够识别。
利用AI眼镜进行考试作弊的案例也屡见不鲜。今年5月,在电气产业工程师和消防设施工程师考试中,佩戴AI眼镜的考生被查获,随后在托业定期考试中也有考生被发现。教育部因此要求各省教育厅将AI眼镜列为考试禁带物品,并提醒监考人员密切关注考生的异常行为。
关于AI眼镜滥用问题,三星电子MX事业部XR开发团队负责人(副总裁)崔在仁在最近的Galaxy Unpacked活动中表示:“就像剑与盾一样,未来用户增多后可能会出现各种问题,因此我们必须不断努力进行补救。”他强调:“我们正在持续研究在何种情况下可以阻止滥用,以及如何从设计上进行防范。”
※ 本报道经人工智能(AI)系统翻译与编辑。


