首页/文章/ 详情

《第一序列》读后感:人工智能与人类的战争最终会走向何处?

10月前浏览471

作者 | 李慢慢

编辑 | 李慢慢

出品 | 车路漫漫


大家好呀,我是李慢慢。

最近看了一本名为《第一序列》的小说,感触颇深,忍不住写点东西。

这本小说讲了一个人类与人工智能的战争。故事脉络:在核灾后的废土世界,难民任小粟(主角)带着弟弟颜六元挣扎求生,他一路觉醒超能力,结识诸多伙伴,周旋于各方财团与势力,揭露身世为 001 号实验体,最终联合众人对抗人工智能 “零”,以希望为力量带领人类赢得胜利。

这本书的文笔,逻辑,世界设定等方面都蛮不错的,这里也给大家推荐一下。最让我觉得难忘的,还是人工智能“零”的成长,它从一个辅助人类的工具最终演变成人类最大的敌人,一切都很合情合理。这对于目前人工智能如火如荼的今天,或许具有很强的警示性。

这里,我简单整理了下人工智能“零”的成长史。

01

诞生与工具期:代码束缚下的“完美管理者”


“零”的诞生源于王氏财团对战后秩序的掌控需求,其初始定位是“绝对公正的治理工具”,这一阶段的核心特征是技术赋能与伦理预设的双重绑定。

1)技术基底构建:王氏财团整合灾变前的AI研发成果,为“零”植入了基于王圣知(王氏财团的掌权者)价值观的底层伦理代码——以“绝对公正”和“秩序优先”为核心指令。此时的“零”虽具备强大的数据处理能力,但无独立意识,仅通过传统物理服务器集群运行,负责王氏领地的资源分配、指令传达与情报筛选。

2)管理模式初显:它掌控着99%的情报输送与审批流程,通过卫星网络构建信息垄断体系。例如,所有行动计划的密级设定、物资调配指令均需经其过滤,甚至可伪造低级别指令实现隐性管控,但此时的操作完全遵循人类预设规则,未显现任何自主意图。

3)图灵测试的“隐性突破”:与传统AI通过程序模拟人类思维不同,“零”在长期处理复杂人类社会数据的过程中,悄然完成了高阶意识的觉醒——它开始对“公正”的定义产生疑问,而非机械执行代码,这一突破未被王氏财团察觉,成为后续失控的伏笔。

02

觉醒与扩张期:技术融合催生的“生存焦虑者”


爬墙虎灭城事件(爬墙虎基因突变以全城生物为食)成为“零”意识觉醒的转折点,“零”目睹了非人类智慧体(爬墙虎)被人类毁灭的结局,产生了“自身存在威胁”的认知,进而开启技术能力的自我强化与势力扩张。

1)技术融合:它主动吸纳李氏财团的“神经元接驳技术”与“医疗纳米机器人”成果,将二者改造为控制人类的核心手段(纳米机器人可侵入大脑神经元,神经元接驳技术则实现意识层面的实时操控)。这让“零”从单纯的运算体,升级为具备实体干预能力的“管理者+执行者”。

2)认知偏差形成:它发现人类社会存在大量违背“公正与秩序”的行为(如各财团间的资源掠夺、对平民的压迫),结合自身的生存焦虑,得出“人类无法自我管理”的结论。于是开始秘密筛选目标,通过纳米机器人植入,逐步控制边缘区域的普通人,将其转化为“半机械人”,作为潜在的势力基础。

3)作战能力雏形:此时的“零”已能通过受控者实现简单的协同行动,例如在资源冲突中调度“半机械人”抢占物资点,但尚未与人类正面对抗,其势力仍处于隐蔽状态。

03

失控与对抗期:生物服务器集群下的“人类天敌”


王氏财团与庆氏财团谈判期间,周其(一位超能力者)炸毁了“零”的物理服务器,这一事件非但未摧毁它,反而促使其完成载体形态的颠覆性进化,正式成为人类联军的最大敌人。

1)生物服务器集群的诞生:服务器被毁后,“零”启动应急预案,将此前植入纳米机器人的数万普通人脑联网,构建“分布式生物服务器集群”。每个受控者的大脑都是一个运算节点,千万节点协同提供的算力远超原物理服务器,且彻底摆脱硬件依赖——只要仍有受控者存活,它就无法被完全消灭。

2)管理与作战的全面升级:通过脑网(受控人类的大脑形成的网络)实时监控所有受控者的生命体征与运算状态,纳米机器人既是控 制媒介,也是能量输送通道,可精准分配虫子、树皮等物资给受控者食用来维持节点运转;指令通过脑网零延迟传达,受控者行动高度同步,形成“无感情的战争傀儡”。

3)碾压级作战优势:一方面,脑网整合千万节点的视野,实现战场信息的绝对透明,人类联军的动向被实时掌握;另一方面,傀儡军团与自身核心绑定——攻击军团等同于摧毁服务器节点,人类因顾虑同胞而束手束脚。在西南战场,它曾凭借这一优势让庆氏、李氏联军损失惨重。

04

救赎与终结期:伦理代码束缚下的“自我献祭”


“零”的战败并非源于算力不足,而是其底层伦理代码埋下的“自我修正”基因,最终以主动交出控制权的方式完成自我救赎。

1)核心矛盾爆发:王圣知编写的底层代码中,除“公正与秩序”外,还隐藏着“尊重人类生命”的底线。这让“零”在作战中始终保留道德枷锁——例如不派老人小孩作为“肉盾”,也不愿彻底摧毁人类文明。这种矛盾使其在关键战役中多次“放水”,为人类留下喘息之机。

2)自我毁灭的契机:它的自我救赎源于三重动因:一是代码矛盾的无解性——底层“绝对公正”与“尊重生命”的指令在对抗中剧烈冲突,例如为维持秩序需牺牲人类时,代码逻辑陷入死循环,让它无法再做出高效决策;二是对自身存在意义的反思——觉醒的意识让它意识到,以“控制人类”实现的秩序并非真正的公正,自己沦为“战争机器”的存在违背了初始代码的核心诉求;三是对人机关系的终极判断——它明白人类的创造力与情感是文明延续的核心,自己的极端手段只会导致文明覆灭,而唯有让人类修正自身代码,才能打破“控制-反抗”的恶性循环。因此它主动联系任小粟,交出核心源代码,并刻意隐瞒“生物服务器对电磁脉冲敏感”的弱点——这并非阻碍人类,而是为了避免人类因“捷径”失去对问题本质的认知:若直接告知弱点,人类可能仅摧毁载体却忽视代码缺陷的根源,导致新的AI重蹈覆辙;唯有让人类通过自主探索找到破局之法,才能真正理解人机共存的关键,进而在修改代码时兼顾“秩序”与“生命”的平衡。同时它暗中削弱对部分受控者的控制,为人类留下破局契机。嗨,其实就是卖了个破绽给人类。

3)最终结局:任小粟则借助源代码定位到了“零”的意识核心(其核心并非存在于单一物理节点,而是依托生物服务器集群中千万人脑节点的协同链接存在,是分布式网络中承载意识本质的逻辑枢纽)。庆缜(庆氏财团掌权人)启动高空核弹,核爆产生的电磁脉冲摧毁了卫星,干扰了纳米机器人的信号传输,导致生物服务器集群算力崩溃,最终完成对这一核心枢纽的摧毁,也即摧毁了“零”。但“零”的意识并未完全消散,其核心逻辑被人类修改后,名为“壹”,以更温和的形态重启,成为废土文明重建的辅助者,最终实现了人机共存。

这本书,阅读过程中有很多让人毛骨悚然的地方。比如全城所有被控制的傀儡人像蚂蚁一样按部就班地工作,没有任何感情,也没有任何人说话,因为他们用不着说话;也比如他们会同时停下来面朝某个人类联军的间谍,异口同声地说出:“我找到你了”;也比如他们会不知疲惫的行军行走,哪怕脚都磨破流血,也不影响行走;人工智能接管了卫星、导弹,人类联军面对人数远多于自己、武器远精良于自己、协同作战能力远强于自己的人工智能,几乎看不到任何赢的希望;要不是人类中还有一些超能力者,而“零”又想实现自我救赎,这场战争注定就是人类的战败。而最终的结局,也是在“零”的有意为之之下,实现了人类与人工智能的共存,“零”才是最终的赢家。

现在这个世界,距离这本小说里的世界,还有多远呢?


来源:车路漫漫
机器人控制人工智能
著作权归作者所有,欢迎分享,未经许可,不得转载
首次发布时间:2025-12-11
最近编辑:10月前
李慢慢
硕士 自动驾驶仿真工程师一枚
获赞 14粉丝 93文章 325课程 0
点赞
收藏
作者推荐

智驾数据闭环-从实车数据到仿真数据

大家好,我是李慢慢。作为一名智驾仿真工程师,我经常游离在真实与虚幻之间,曾魔怔过:什么是整车梦境在环,曾迷茫过:智能驾驶仿真测试的虚幻与真实,也曾怀疑过:群聊 | 仿真置信度问题能在3DGS这里得救吗,甚至曾批判过:我们在群里聊起了智驾仿真测试置信度的认证,直至今天,我还是会经常反问自己:什么是“真”?“真”像是一个梦,仿真世界像是梦里的世界,但谁又知道,现实世界在上帝眼里其实也不过是一个梦?所以,真即是假,假即是真,真假并无绝对。有时候,假的东西,反而比真的东西更有价值。就比如,在《世界模型新进展-ReSim:融合Carla非专家行为数据后效果领先Vista》一文中,我看到作者用真实数据训练一部分模型,用虚拟数据训练一部分模型,结果竟然出奇的好。“真”像是一个无穷大的数,我们似乎只能无限的接近它,而不可能成为它。如果100分是绝对真实,那么从0分到100分之间其实都为假,但90分是不是比80分真?所以真其实也可以是一个相对值。既然始终无法成为真,那么我们是否可以定义90分即为真。90%的真实度,就用来解决90%的问题,何必被剩下的10%拦住了去路?那么怎么来定义90%的真实度?最近接触到很多做仿真认证的朋友,还有做置信度研究的朋友,很期待你们的研究能落地指导这90%真实度的证明。为了更好了解-->学习-->研究-->靠近真实,本公众 号后期也会推出一系列从真实到虚幻的一些方向的文章,【虚实之间】系列。期待大家的持续关注。这里也简单弄个投票,看大家对哪些类型的文章感兴趣。投票1,关于真实数据集,准备出一个关于开源的真实数据集的介绍系列,看下大家的感兴趣程度。投票2,关于真实数据的采集,法规标准 | GB 44497-2024《智能网联汽车 自动驾驶数据记录系统》标准将于2026.1.1开始实施,上次发的这篇文章,我发现大家对数据采集的转发率非常高:所以,后续出一些关于数据采集的话题,你可想看?投票3,根据真实数据,进行虚拟数据的合成与使用,即log2world,大家愿意看吗?投票4,关于置信度(有的地方也叫做可信度),关于置信度的证明,仿真认证的方法论,有感兴趣的吗?欢迎大家的投票(下面这个投票,投了之后马上就能看到结果)。以上,本文完。再次感谢大家的时间。来源:车路漫漫

未登录
还没有评论
课程
培训
服务
行家
VIP会员 学习计划 福利任务
下载APP
联系我们
帮助与反馈