코인정보

车美英:在人工智能时代应提高平台算法透明度以应对虚假信息

罗愃惠 기자 2026-07-07 14:48
虚假新闻生态与过去不同 通过人工智能长期传播 仅靠法律和制度难以解决问题 在偏见和公正等方面建立基准
车美英在2026世界华人科学技术大会上的发言
车美英,德国马克斯·普朗克安全与信息保护研究所所长(韩国科学技术院计算机科学系教授),在首尔江南区韩国科学技术会馆举行的2026世界华人科学技术大会的主题演讲后接受采访。 [照片=科学技术协会]

"在人工智能(AI)时代,仅依靠人类逐一验证虚假信息的方式已经不够。平台必须持续管理和公开算法的偏见性和公正性。"

7日,车美英在首尔江南区韩国科学技术会馆举行的2026世界华人科学技术大会主题演讲后接受采访时表示,AI时代应对虚假信息的方向应如此。

车美英指出,虚假新闻生态正在发生与过去完全不同的变化。他表示:“过去,虚假操控信息像小型网络一样传播,当愤怒情绪结合时,传播速度很快。未来,追踪和应对这种方式将变得困难。”

他进一步指出:“虚假信息的传播不再是人与人之间的传播,而是通过伪装成人类的AI账户群体长期进行。”

车美英担忧,如果AI持续注入虚假信息,不仅个人选择会受到影响,甚至民主也会受到动摇。他表示:“关键在于基于AI的内容是出于什么意图和目的。”

关于政府实施虚假操控信息根除的监管,他指出,仅靠法律和制度难以解决问题。车美英表示:“虚假新闻的责任主体非常多,包括生成虚假新闻的主体、未能阻止其在社交网络(SNS)上传播的平台以及转发的用户。”

他还提到:“全面监控所有领域在现实中是困难的。”并指出:“像选举或重要社会议题等在网络公共论坛上形成的意见需要集中监控,以便影响决策或投票。”

车美英还指出,检测AI生成内容的技术尚不完善。他表示:“虽然不断出现判断AI生成内容的技术,但规避这些技术的生成方式也在不断发展,因此还不能认为这是一个完全成熟的领域。”

他还指出,信息流通结构本身正在发生变化。过去主要依靠人类直接验证虚假信息,而最近平台利用算法管理内容的比例正在增加。

车美英表示:“现在很多人在询问他人之前,首先会向AI提问。”他指出:“AI与个人的对话在外部是不可见的,因此很难衡量AI向用户提供了什么信息,是否传递了错误信息。”

他强调,随着AI与用户对话的增加,平台在验证算法的可靠性和偏见性方面的责任也会加大。车美英表示:“在偏见和公正等多个方面建立基准,并透明地公开结果,这样才能确认平台为社会价值所做的努力。”

车美英是一位利用数据科学和人工智能(AI)研究解决虚假信息、贫困和公共行政等社会问题的专家。

他的主要研究领域是“为人类服务的数据科学”。他进行的研究包括利用AI和大数据分析虚假新闻传播机制、虚假信息检测、基于卫星影像的贫困地区分析以及公共服务AI等社会问题解决型AI研究。由于这些研究成果,他获得了2024年洪振基创造人奖和今年的科学技术勋章创新奖。



※ 本报道经人工智能(AI)系统翻译与编辑。

《 亚洲日报 》 所有作品受版权保护,未经授权,禁止转载。