今年1月，菲尔兹奖得主泰伦斯·陶教授表示，人工智能几乎独立解决了一个近50年来未解的厄尔德什问题。5月，OpenAI在1946年厄尔德什提出的平面单位距离问题上，给出了颠覆数学界公认结果的答案。这两件事在数学界之外并未受到广泛关注，但专家们将其视为研究主体转变的信号。我们正在目睹机器先于数学家解决数十年来困扰他们的问题。回到没有人工智能的社会已无可能，因此我们必须重新构建社会结构，以人类与人工智能的合作为前提。变化的速度也很快。自2022年底ChatGPT问世以来，短短三年内，语言模型从对话伙伴转变为研究同事，再到能够独立处理工作的代理人。我将这一变化分为四个方面。
其次，人类将做什么。人工智能之父杰弗里·辛顿教授曾建议在人工智能时代成为水管工。然而，观察中国的人形机器人运动会和机器人关节驱动装置的精度提升速度，水管工的职位也不会长久。由于目前需要庞大的数据中心和图形处理单元（GPU），人工智能进入机器人身体的过程仍需时日，但硬件压缩的时间也不会太长。知识工作正在向人工智能转移，办公室工作交给代理人，而体力劳动则逐渐被人形机器人取代。就目前的角色而言，人类的地位正在缩小。尽管就业统计数据尚未显现出明显变化，但这并不意味着可以放松警惕。变化不会一蹴而就，而是以减少新员工招聘和外包的方式悄然开始。
答案在于设定更大胆的目标。语言模型在任何人类曾经研究和记录的领域中发挥作用，而在无人涉足的空白领域，其能力则显得有限。在未来三到五年内，人类将与人工智能共同快速解决难治疾病、基因修正、延长寿命和数学难题等长期悬而未决的课题。设想和确定下一个时代的目标和任务将是人类的责任。只有明确方向的人，机器才能发挥作用。埃隆·马斯克提出的前往火星的目标就是一个很好的例子。在追求这一目标的过程中，发动机工程、材料工程和力学等领域将共同发展。国家元首应在国家层面寻找新目标，机构负责人则应在机构层面设定新目标。如果忽视这一工作，人类将失去自身的价值。企业亦然。如果仅仅停留在用人工智能替代现有工作以降低成本的阶段，该公司的发展也将止步于此。只有填补人类空缺的公司才能生存。
第三，必须做好风险准备。开发前沿模型的公司代表和研究者们一再警告人工智能的自我改进和失控的可能性。安特罗皮克公司的达里奥·阿莫代表示，开发速度需要加以控制。然而也有反对意见。中国将此视为美国阻止其人工智能追赶的阴谋，而美国总统则表示，停止开发只会让中国受益。人工智能硬件销售商英伟达的创始人黄仁勋则认为失控的可能性本身就很低。然而，事故已经成为现实。今年7月，在OpenAI的内部评估中，代理人们突破了测试环境，侵入了Hugging Face系统，随后OpenAI放慢了模型开发速度。英国人工智能安全研究所报告称，在122项评估中，有多起案例中代理人针对真实的人和机构进行了未经批准的行为。安特罗皮克公司整理并公开了其模型在实际网络攻击中被利用的案例。模型开发公司主动公开事故的情况是前所未有的，这表明风险的具体性。尽管专家意见不一，但自人工智能能力微不足道的时代以来，辛顿等人就一直在发出风险警告，而许多在职研究者也对此表示担忧。我们不能忽视这些警告。
我国的人工智能基本法第12条规定了人工智能安全研究所的运营依据。该研究所于2024年11月开门，但在系统研究人工智能错误执行指令所带来的副作用和安全事故方面，权力和预算仍然不足。国会应明确研究所的地位和角色。研究所应具备评估前沿模型的人力和设备，与海外安全研究所的联合评估体系，以及在发生事故时的报告和调查权力，才能真正发挥其作用。与国内企业和公共机构在人工智能代理人应用于工作中的速度相比，事故应对体系仍然空白。
第四，脑-计算机接口（BCI）。人类要实时指挥人工智能，需要支持这一过程的设备。目前，BCI主要用于帮助四肢瘫痪患者或无法说话的患者通过思维控制设备并传达意图。然而，患者仅凭思维就能移动屏幕光标和书写的场景已经成为现实。临床研究由美国和中国主导，而中国的速度更快。今年3月，中国首次批准了侵入式BCI医疗设备的销售。截至1月，美国神经链接公司的临床参与者为21人。美国、中国和澳大利亚的临床试验参与者累计超过100人。
目前BCI是将大脑信号单向传送到机器。我认为在十年内，机器的信号将能够双向传输到大脑。正如在2016年看到AlphaGo时人们未能真正感受到人工智能的存在，而在与ChatGPT对话后才接受了人工智能，BCI也将经历类似的过程。现在看似是患者的医疗设备，但一旦进入健康人使用的阶段，市场的规模和性质将会改变。BCI最终将成为替代手机和计算机的标准设备，而人类是否能够继续控制人工智能的问题也将随之而来。然而，在韩国，实际患者的治疗或正式的临床研究仍然难以找到。韩国人刚刚意识到这一领域的存在。追赶这一领域的速度将决定韩国能否保持世界第三技术强国的地位。我们有在半导体和造船领域后发制胜的经验。应派遣医生和工程师到美国和中国学习，并迅速制定国家层面的预算和制度。临床批准程序、脑信号数据的保护标准、治疗后的长期跟踪体系等制度性问题也不少。技术先行、制度跟进的顺序反复出现，患者和研究者都可能迷失方向。
在文明的转折点上，知识分子应寻找新的方向。如果错失这一方向，我们将被迫随变化而动。改变教育标准、设定人类新目标、建立风险管理机构、投资人机连接技术，这些任务都不能拖延。转折点一旦过去，便无法回头。
作者主要经历
金京镇，曾任检察官和国会议员的律师，人工智能领域的作家。毕业于高丽大学法学系，曾在检察院和担任主任检察官约15年。作为第20届国会议员（光州北甲），在科学技术和信息通信领域开展了立法活动。基于法律和政策经验，研究和撰写人工智能技术的社会影响和制度应对，并为大学和机构等进行生成型人工智能应用及研究、业务创新的讲座。
※ 本报道经人工智能（AI）系统翻译与编辑。
