KAIST研究团队开发了一种AI技术,能够将一次学习的解法存储在设备中以便重用。研究人员成功地使小型AI利用服务器的大型AI的知识,从而在保持准确度的同时,平均减少了55.61%的服务器调用次数。
KAIST于21日宣布,计算机科学系的李在吉教授研究团队开发了有效连接设备的小型AI与服务器的大型AI的设备-服务器协作技术“CURE(累积知识重用)”。
像智能手机这样的设备由于计算能力和内存的限制,主要使用轻量级的小型AI模型。小型模型能够快速处理简单问题,但在面对复杂或陌生的图像时,准确度会下降。相反,将所有问题交给高性能的服务器AI处理虽然可以提高准确度,但会增加数据传输时间、通信量和服务器计算成本。
因此,研究人员探索了让设备的小型AI先进行判断,仅将困难问题发送给服务器的协作方式。然而,现有的方法在服务器回答后仅使用一次,导致相似问题再次出现时需要重复请求相同的帮助。研究团队关注于如何将服务器提供的答案保存为设备后续可用的知识。
研究团队通过理解图像和文本的视觉-语言模型验证了性能。设备用的小型模型为MobileCLIP2,服务器用的大型模型为参数规模达到180亿的EVA-CLIP。
通过对多种图像分类数据集的实验,CURE在保持接近于将所有输入交给大型服务器模型处理的准确度的同时,平均减少了55.61%的服务器调用次数,相较于不积累知识的现有设备-服务器协作方式,处理速度提高了最多2.8倍,相较于将所有输入发送给服务器的方式提高了最多3.67倍。
CURE无需单独重新训练小型和大型模型,只需在现有模型中添加存储服务器知识的存储库即可应用。这项技术不仅适用于智能手机的图像识别和图像搜索,还可应用于机器人、可穿戴设备等需要在有限资源下识别周围环境的设备。然而,实际应用效果可能因设备性能、存储空间、通信环境和输入数据特性而异,因此需要在多种设备和环境中进行进一步验证。
李在吉教授表示:“CURE是一项技术,使设备的小型AI能够记住一次获得的知识,而不是反复向服务器询问相同的问题。”
此次研究由KAIST信息电子研究所的李英俊博士后研究员担任第一作者,李在吉教授担任通讯作者。亚马逊的金道英研究员、LG AI研究院的姜俊赫研究员、KAIST工业与系统工程系的宋焕俊教授为共同作者。研究结果于8日至12日在瑞典马尔默举行的欧洲计算机视觉大会(ECCV 2026)上于10日发布。此次研究得到了科学技术信息通信部和信息通信规划评估院“以人为本的人工智能核心基础技术开发项目”中“AI学习能力改善技术开发”课题的支持。
※ 本报道经人工智能(AI)系统翻译与编辑。


