专家评论：人类的审查与人工智能的过滤有何区别？
尽管电影产业面临危机，《魔法坏女巫》依然取得了票房成功。虽然十多年前的童话书已经泄露了剧情，但大家都害怕的伟大魔法师奥兹的真实身份在电影中显得十分卑微。 隐藏在巨大机械装置背后的是一个卑微的骗子，而翡翠城的人们因为这是“伟大魔法师的决定”，对压制会说话的动物的政策没有提出质疑。艾尔法巴第一次得知真相时会有多震惊呢。 然而，当我们审视即将于7月1日实施的制度时，不禁想，我们是否也被卷入了旋风，跌入了梦幻国度。根据修订后的《电信事业法》第22条之5第2项及其实施细则第30条之6，规定当用户在一定规模以上的平台上传图片时，人工智能（AI）必须首先判断是否为非法拍摄物，并阻止其发布。 自2021年起，适用于视频的义务现已扩展至图像、截图和照片等。我们非常赞同保护受害者的制度初衷。然而，如果同样的事情是由人来做，我们会称之为什么呢？答案是“事前审查”。 《韩国宪法》明确禁止事前审查。宪法法院也认为，行政权在表达作品公开之前对其内容进行审查和筛选，从而事先抑制发布，属于违宪。如果公务员逐一审查在线发布的内容，就难以避免违宪的争议。 然而，几个月前，宪法法院认为该制度只是机械地对比已“注册”的非法拍摄物的“特征值”，限制发布，并没有人直接查看内容，因此不算事前审查。然而，AI的判断标准最终还是由人预先设定的。就像奥兹魔法师的威严声音实际上是普通人从机械装置后面发出来的一样。如果对比过程由AI完成，那么这就不是审查，难道与翡翠城的人们毫无疑问地相信伟大魔法师的存在没有区别吗？ 将人类不应进行的“审查”行为转变为AI的“过滤”，就可以接受吗？在发布之前自动审查内容并阻止的结构与之前并没有什么不同。 更进一步，最初将这种对错的判断交给AI是否合适？我们可以质疑，特征值的对比与善恶判断并无不同。然而，“判断”本身就是如此。根据给定的标准，判断眼前对象是否符合该标准。人类根据道德标准判断对错，AI根据“坏拍摄物”的标准进行过滤，这两者的结构并无不同。 即使标准是由人设定的，最终对个别案件是否符合该标准的最后判断仍然落在AI身上，因此AI在某种程度上已经承担了善恶判断的责任。而便利的诱惑总是单向流动的。今天交给AI的一小步，明天可能就是一大步。 即使百般让步，认为将判断交给机器也无妨。我们长期以来设计制度，确保判断必然伴随责任。人类做出的判断可以提出异议，并对错误的决定追究责任。 然而，如果AI做出判断，我们又该向谁提出异议，责任又该由谁承担呢？实际上，已经出现了将棒球比赛画面错误分类为非法拍摄物的误判案例，以及将游戏精彩瞬间判断为非法拍摄物而被删除的举报。有些人甚至称其为“黑匣子”，因为没有人知道什么被过滤了，为什么被过滤。对于这种“错误但机械做出的判断”，责任又该由谁承担？在将判断交给无法承担责任的存在时，我们是否充分考虑了这一点？ 当然，AI并不是像奥兹魔法师那样的骗子，我也并不想提议21世纪过时的拉达特运动。艾尔法巴那样逃亡者的生活并不符合我的性格。我也承认AI是一个能够快速分类人类难以处理的大量数据的有效工具。 然而，同时将AI作为工具使用与将其作为判断者是完全不同的问题，更何况人类做的事情是非法的判断角色（试图让AI像人类一样）是否可以接受，这种逻辑总觉得有些奇怪。人类做审查，AI做过滤。名字变了，实质就变了吗？在这种更改后的名称下，我们是否可以如此轻易地依赖AI来判断对错？※ 本报道经人工智能（AI）系统翻译与编辑。
2026-06-23 15:08:00
