李在明总统指出，若AI（人工智能）深度伪造视频和图像在没有明确标识的情况下流通，可能会被视为证明事实的证据。 在青瓦台迎宾馆举行的科学技术信息通信部（宇宙航空厅）、广播媒体通信委员会、个人信息保护委员会的工作报告会上，李总统表示：“如今，人工智能创作物与真实情况的区分变得越来越困难。” 他强调：“如果没有标识，可能会引发严重误解，若被恶意利用，后果将非常严重。人工智能创作物所带来的风险已经在现实中显现，因此必须采取应对措施。” 根据现行《人工智能基本法》，生成型AI制作的视频和图像必须标明其为AI生成物。尤其是对真实存在的人或现象进行AI变形的深度伪造，用户必须能够立即识别，因此有义务进行可视化标识。若违反标识义务，最高可处以3000万韩元的罚款，但相关制裁规定目前已被暂时搁置一年。 李总统指出，现行法律仅对AI模型开发者和使用者规定了标识义务，而对一般传播者在删除或剪切生成物后重新传播的行为并未直接进行监管。 他还提到，国内门户网站在当事人举报名誉损害或权利侵害后，会优先屏蔽相关帖子，并进行异议申请程序。然而，海外平台在身份验证和删除措施方面并未得到有效实施。 在工作报告的开头，李总统表示：“未来我们可能需要在社会的各个领域与具有人类智力或超越人类智力的人工智能共同生活。”并指出：“全球正经历AI带来的文明重大转型。” 他认为：“这种情况是我们面临的关键机遇，只要我们善用优势，弥补劣势，就能成为引领者，而非追随者。只要稍微领先，就能享受无限的机会。” 李总统还介绍道：“自政府成立以来的一年内，我们已使科学技术创新生态系统正常化，纠正了不应有的研发（R&D）预算削减和对科学技术领域的粗暴处理，并成功吸引了民间的大规模投资。”※ 本报道经人工智能（AI）系统翻译与编辑。

2026年地方选举显示出韩国政治正迈入真正的“AI选举”时代。过去的选举依赖于竞选车、市场小巷、电视辩论和报纸社论。候选人亲自与人见面以争取支持，选民通过报纸和广播进行判断。民主虽然缓慢，但至少在同一现实之上运作。谁说了什么，哪些场景是真实的，什么是事实，通常是可以确认的。 然而，现在的选举在完全不同的空间中进行。不再是广场，而是在算法之中。 在此次地方选举过程中，中央选举管理委员会对AI深度伪造虚假视频的传播案例采取了特别应对措施。合成的候选人面孔和声音的视频通过社交媒体和YouTube传播，选管会已将相关案例报案给警方。这不是简单的恶作剧，而是AI技术开始动摇民主信息秩序的信号。 但本质并不在于深度伪造本身。更重要的变化是，民主已经完全进入了“注意力经济”的市场。从经济学角度看，平台企业的核心资产不是工厂，而是人们的时间。YouTube、TikTok和Instagram等平台通过出售用户的停留时间来获利。问题在于，能够最久吸引人类注意力的内容往往并不是真实或平衡的。愤怒、仇恨、恐惧和冲击比长篇解释更快传播。 政策是缓慢的。刺激是快速的。 候选人的产业承诺难以被阅读，但嘲讽对手的短视频却能迅速获得数百万的观看次数。复杂的地方财政政策不如一句阴谋论更具影响力。民主正在从审议过程转变为情感的速度竞争。AI进一步加剧了这一趋势。 过去，宣传和操控需要巨额成本。需要广播公司、组织和资金。然而现在，只需生成型AI和智能手机。声音复制只需几秒钟，视频合成也已降至普通用户水平。政治煽动的门槛几乎消失。世界已经体验到了这种风险。在美国，2024年大选前，模仿乔·拜登总统声音的AI电话信息在选民中传播，内容是“不要投票”。美国联邦通信委员会（FCC）对该政治顾问处以巨额罚款。在乌克兰战争初期，流传着乌克兰总统泽连斯基宣布投降的深度伪造视频。在印度，政治家的AI化身用数十种语言进行竞选，而在菲律宾，利用AI声音复制的政治信息也开始出现。 韩国尤其面临更危险的条件。世界一流的数字基础设施、快速的信息消费文化、以YouTube为中心的政治消费结构以及降低的传统媒体信任度共同作用。这四者结合使得选举越来越向“平台政治”转移。 在这里，出现了一个重要的问题。YouTube是媒体还是平台？他们总是说：“我们只是技术平台。”然而在现实中，YouTube已经是全球最大的政治媒体。其影响力超过电视，传播速度快于报纸。然而，它几乎不承担与传统媒体相同的公共责任。 这就是平台资本主义的核心矛盾。如果说过去的铁路、电力和电话网络是工业化时代的基础设施，那么今天的算法就是社会基础设施。问题在于，这一基础设施是基于广告收益逻辑而非民主的公共性运作的。平台本质上是停留时间产业。人们停留的时间越长，广告收益就越高。因此，算法自然倾向于强烈的情感内容。愤怒和仇恨比讨论更长时间被消费。 法国哲学家让·博德里亚尔称现代社会为“仿像”的时代。即复制的图像比原版更强大的社会。AI深度伪造时代正是这一预言的现实化。被操控的候选人形象可能成为比真实候选人更强大的政治现实。 更危险的是，人们对“什么是真实的”变得越来越麻木。随着深度伪造的增加，公民最终会对所有信息产生怀疑。问题在于，在这一时刻，民主的基础“共同现实”本身将崩溃。如果社会无法在同一事实上进行讨论，政治将变成粉丝战争。 在这一点上，重要的是不能将这个问题仅仅视为“技术的副作用”。本质在于市场结构。 平台不是公共机构，而是广告公司。因此，仅仅期待自律伦理是有限的。实际上，欧盟通过数字服务法（DSA）加强了对平台算法责任和政治广告透明度的监管。AI生成内容的标识义务和推荐算法的监控也在扩大。 最终，问题转向规则而非技术。AI时代的民主在于如何设计“言论自由”和“信息信任”之间的平衡。完全的审查是危险的，但完全的放任可能更危险。市场能解决所有问题的信念在这里也显露出局限性。因为平台的收益结构本身就倾向于刺激和传播。 因此，未来所需的不是简单的道德呼吁，而是制度设计。首先，需要加强对选举期间AI生成政治内容的水印标识义务。其次，要求平台推荐算法的最低透明度。第三，应制度化政治深度伪造的快速删除机制。第四，学校和整个社会的数字素养教育迫在眉睫。未来，公民的核心能力可能不再是大量消费信息，而是辨别哪些信息被操控的能力。 企业管理也面临同样的问题。在AI时代，企业的核心资产最终是信任。全球企业已经建立AI风险组织，以应对虚假CEO发言、操控视频和虚假广告的风险。未来，企业的危机管理能力可能更多地体现在数字信任管理上，而非工厂运营。媒体也应当改变。 在AI时代，仅靠新闻竞争难以生存。AI可以更快地撰写新闻。媒体真正的竞争力在于验证、解读、背景和信任。谁先写并不重要，谁能准确描述现实才是关键。 这里重要的一点是，不必将技术本身视为恶。AI同时也有可能使民主更加开放。它可以提高残疾人和老年人的政治参与度，通过多语言翻译扩大政策理解，并增加地方居民的参与。 问题不在于技术，而在于哲学。在其上建立什么样的规则和伦理，什么样的公共性。此次地方选举不仅仅是地方权力重组的简单意义。它是对韩国民主是否能够保持审议民主，还是滑向算法民主的考验。 民主本来是信任人类理性的制度。然而，AI和平台时代更快地刺激人类的情感和本能。现在，韩国社会需要提出的问题是： 我们是要将AI作为民主的工具，还是要接受民主成为AI算法商品的时代？※ 本报道经人工智能（AI）系统翻译与编辑。