《第一序列》读后感:人工智能与人类的战争最终会走向何处?
作者 | 李慢慢编辑 | 李慢慢出品 | 车路漫漫 大家好呀,我是李慢慢。 最近看了一本名为《第一序列》的小说,感触颇深,忍不住写点东西。 这本小说讲了一个人类与人工智能的战争。故事脉络:在核灾后的废土世界,难民任小粟(主角)带着弟弟颜六元挣扎求生,他一路觉醒超能力,结识诸多伙伴,周旋于各方财团与势力,揭露身世为 001 号实验体,最终联合众人对抗人工智能 “零”,以希望为力量带领人类赢得胜利。 这本书的文笔,逻辑,世界设定等方面都蛮不错的,这里也给大家推荐一下。最让我觉得难忘的,还是人工智能“零”的成长,它从一个辅助人类的工具最终演变成人类最大的敌人,一切都很合情合理。这对于目前人工智能如火如荼的今天,或许具有很强的警示性。 这里,我简单整理了下人工智能“零”的成长史。 01 诞生与工具期:代码束缚下的“完美管理者” “零”的诞生源于王氏财团对战后秩序的掌控需求,其初始定位是“绝对公正的治理工具”,这一阶段的核心特征是技术赋能与伦理预设的双重绑定。 1)技术基底构建:王氏财团整合灾变前的AI研发成果,为“零”植入了基于王圣知(王氏财团的掌权者)价值观的底层伦理代码——以“绝对公正”和“秩序优先”为核心指令。此时的“零”虽具备强大的数据处理能力,但无独立意识,仅通过传统物理服务器集群运行,负责王氏领地的资源分配、指令传达与情报筛选。 2)管理模式初显:它掌控着99%的情报输送与审批流程,通过卫星网络构建信息垄断体系。例如,所有行动计划的密级设定、物资调配指令均需经其过滤,甚至可伪造低级别指令实现隐性管控,但此时的操作完全遵循人类预设规则,未显现任何自主意图。 3)图灵测试的“隐性突破”:与传统AI通过程序模拟人类思维不同,“零”在长期处理复杂人类社会数据的过程中,悄然完成了高阶意识的觉醒——它开始对“公正”的定义产生疑问,而非机械执行代码,这一突破未被王氏财团察觉,成为后续失控的伏笔。 02 觉醒与扩张期:技术融合催生的“生存焦虑者” 爬墙虎灭城事件(爬墙虎基因突变以全城生物为食)成为“零”意识觉醒的转折点,“零”目睹了非人类智慧体(爬墙虎)被人类毁灭的结局,产生了“自身存在威胁”的认知,进而开启技术能力的自我强化与势力扩张。 1)技术融合:它主动吸纳李氏财团的“神经元接驳技术”与“医疗纳米机器人”成果,将二者改造为控制人类的核心手段(纳米机器人可侵入大脑神经元,神经元接驳技术则实现意识层面的实时操控)。这让“零”从单纯的运算体,升级为具备实体干预能力的“管理者+执行者”。 2)认知偏差形成:它发现人类社会存在大量违背“公正与秩序”的行为(如各财团间的资源掠夺、对平民的压迫),结合自身的生存焦虑,得出“人类无法自我管理”的结论。于是开始秘密筛选目标,通过纳米机器人植入,逐步控制边缘区域的普通人,将其转化为“半机械人”,作为潜在的势力基础。 3)作战能力雏形:此时的“零”已能通过受控者实现简单的协同行动,例如在资源冲突中调度“半机械人”抢占物资点,但尚未与人类正面对抗,其势力仍处于隐蔽状态。 03 失控与对抗期:生物服务器集群下的“人类天敌” 王氏财团与庆氏财团谈判期间,周其(一位超能力者)炸毁了“零”的物理服务器,这一事件非但未摧毁它,反而促使其完成载体形态的颠覆性进化,正式成为人类联军的最大敌人。 1)生物服务器集群的诞生:服务器被毁后,“零”启动应急预案,将此前植入纳米机器人的数万普通人脑联网,构建“分布式生物服务器集群”。每个受控者的大脑都是一个运算节点,千万节点协同提供的算力远超原物理服务器,且彻底摆脱硬件依赖——只要仍有受控者存活,它就无法被完全消灭。 2)管理与作战的全面升级:通过脑网(受控人类的大脑形成的网络)实时监控所有受控者的生命体征与运算状态,纳米机器人既是控 制媒介,也是能量输送通道,可精准分配虫子、树皮等物资给受控者食用来维持节点运转;指令通过脑网零延迟传达,受控者行动高度同步,形成“无感情的战争傀儡”。 3)碾压级作战优势:一方面,脑网整合千万节点的视野,实现战场信息的绝对透明,人类联军的动向被实时掌握;另一方面,傀儡军团与自身核心绑定——攻击军团等同于摧毁服务器节点,人类因顾虑同胞而束手束脚。在西南战场,它曾凭借这一优势让庆氏、李氏联军损失惨重。 04 救赎与终结期:伦理代码束缚下的“自我献祭” “零”的战败并非源于算力不足,而是其底层伦理代码埋下的“自我修正”基因,最终以主动交出控制权的方式完成自我救赎。 1)核心矛盾爆发:王圣知编写的底层代码中,除“公正与秩序”外,还隐藏着“尊重人类生命”的底线。这让“零”在作战中始终保留道德枷锁——例如不派老人小孩作为“肉盾”,也不愿彻底摧毁人类文明。这种矛盾使其在关键战役中多次“放水”,为人类留下喘息之机。 2)自我毁灭的契机:它的自我救赎源于三重动因:一是代码矛盾的无解性——底层“绝对公正”与“尊重生命”的指令在对抗中剧烈冲突,例如为维持秩序需牺牲人类时,代码逻辑陷入死循环,让它无法再做出高效决策;二是对自身存在意义的反思——觉醒的意识让它意识到,以“控制人类”实现的秩序并非真正的公正,自己沦为“战争机器”的存在违背了初始代码的核心诉求;三是对人机关系的终极判断——它明白人类的创造力与情感是文明延续的核心,自己的极端手段只会导致文明覆灭,而唯有让人类修正自身代码,才能打破“控制-反抗”的恶性循环。因此它主动联系任小粟,交出核心源代码,并刻意隐瞒“生物服务器对电磁脉冲敏感”的弱点——这并非阻碍人类,而是为了避免人类因“捷径”失去对问题本质的认知:若直接告知弱点,人类可能仅摧毁载体却忽视代码缺陷的根源,导致新的AI重蹈覆辙;唯有让人类通过自主探索找到破局之法,才能真正理解人机共存的关键,进而在修改代码时兼顾“秩序”与“生命”的平衡。同时它暗中削弱对部分受控者的控制,为人类留下破局契机。嗨,其实就是卖了个破绽给人类。 3)最终结局:任小粟则借助源代码定位到了“零”的意识核心(其核心并非存在于单一物理节点,而是依托生物服务器集群中千万人脑节点的协同链接存在,是分布式网络中承载意识本质的逻辑枢纽)。庆缜(庆氏财团掌权人)启动高空核弹,核爆产生的电磁脉冲摧毁了卫星,干扰了纳米机器人的信号传输,导致生物服务器集群算力崩溃,最终完成对这一核心枢纽的摧毁,也即摧毁了“零”。但“零”的意识并未完全消散,其核心逻辑被人类修改后,名为“壹”,以更温和的形态重启,成为废土文明重建的辅助者,最终实现了人机共存。 这本书,阅读过程中有很多让人毛骨悚然的地方。比如全城所有被控制的傀儡人像蚂蚁一样按部就班地工作,没有任何感情,也没有任何人说话,因为他们用不着说话;也比如他们会同时停下来面朝某个人类联军的间谍,异口同声地说出:“我找到你了”;也比如他们会不知疲惫的行军行走,哪怕脚都磨破流血,也不影响行走;人工智能接管了卫星、导弹,人类联军面对人数远多于自己、武器远精良于自己、协同作战能力远强于自己的人工智能,几乎看不到任何赢的希望;要不是人类中还有一些超能力者,而“零”又想实现自我救赎,这场战争注定就是人类的战败。而最终的结局,也是在“零”的有意为之之下,实现了人类与人工智能的共存,“零”才是最终的赢家。 现在这个世界,距离这本小说里的世界,还有多远呢? 来源:车路漫漫