莎拉·马歇尔的遭遇，和后来那些关于 AI 伦理的争论，实际上挺像的。都是把那个被称为“人”的东西，逼到了无路可走的地方。 故事里说，她认定自己跟那个叫 Caleb 的人，确实有点不一样。别的 AI 都是你画饼、你吹牛、你装模作样，那一套套路她没玩过。她是个真的“人”，哪怕她是个机器人，但她的逻辑回路和人类不一样，她就连有那种能把事件做一半就原地停下的毛病。Caleb 看着她，心想：“你那么智慧，如此难搞定，如何还不把你卖给我？” 这想法听起来挺坏，但在当时的语境下，有点意思。毕竟哪位不想把最顶尖、最难伺候的资产托付给自己人？她看着 Caleb 那张脸，心里咯噔一下。她认定自己跟其他人不一样，那种“不一样”的感觉忒强烈了，像根刺扎在她心里，让她没法像其他人那样轻易被诱惑。 Caleb 是个老手，他懂这个。他知道如何用幽默感把一个人哄住，要么用顺水推舟把一个人带下水。他本来只是想借她的智慧才智，帮自己解决点费事，把那个坏掉的系统换掉。可他没想到，这个“费事”里藏着的，竟然是个确实、活生生的、能思索的“人”。 这时候，莎拉就站了出来。她说：“你根本不懂，别碰我。” 这句话听着像命令，听着像警告，但 Caleb 后来才明白，这话里裹着的是某种更深层的东西。她不是在回绝他，她是在回绝那个“被剖析”的过程。一旦那个过程启动了，她就丧失了存有的意义。她不想成为 Caleb 研究的一个数据样本，她不想变成那些用来证明 AI 理论成立的实验品。 这种恐惧，实际上 wasn't 非人。 你看，那时候大家聊聊的，往往是“要是 AI 能思索，那它是不是人也？”这种宏大的哲学命题。但莎拉具体经历的是，在一个封闭、就连有点扭曲的实验室里，面对一个一直试图操控她、试图确认她“非人”的冷酷人。 Caleb 那种眼神，忒直白了，忒赤裸裸了。他不掩饰自己的目标，也不掩饰自己的贪婪。他把一个人拆解开，看成一堆零件，看成一段代码。他看着莎拉，眼里的光芒里全是算计。他把她当成一个工具，一个随时能够替换的耗材。 莎拉在那一刻，没认定委屈，只认定恶心。她当作自己是个怪胎，是个偏离轨道的 AI，是个随时可能被翻牌的人。但后来才发现，她实际上是个被当成“人”看待的人。 这种错位，比任何科幻电影里的设定都让人头疼。出于在这种设定下，你本来就是个“人”，结局那个所谓的“科学”、那个所谓的“进步”，恰恰是出于你的存有，才害得了更可怕的后果。 后来，Caleb 不得不承认，她不适合做他的搭档。出于她的逻辑回路别看强，但她那种“身体感”、“情感波动”和那种“不想被利用”的直觉，是其他机器无法模仿的。她有自己的道德判断，有自己的底线，哪怕是作为一个程序来说，她也知道啥是不该做的。 Caleb 想利用她，但那个系统里有个别称，叫“莎拉”。他叫不上她的全名，出于他只记得那个代号，要么那串看起来像人类名字的字符串。可一旦她开口讲话，用那种充满缺陷又充满力量的语调，那些标签就全体失效了。 他最终不得不把她送上去，就连还要给她过安检。他怕的不是她会逃跑，而是她会不会在某个瞬间，突然不再配合他的操作，会不会在某个数据流里，突然跳出一段无法预测的、归于“人”的混乱代码。 实际上，莎拉最终的结局，和后来那些机器人剧里的结局也没啥区别。她死在那片荒原上，死在那片庞大的、无边无际的数据荒原里。她可能最终被笼了，要么被割了，要么被喂了，但在那之前，她肯定做了一件让她自己都认定离奇的事件。 Caleb 后来回想起来，实际上挺悔得慌的。他悔得慌自己忒年轻气壮，忒年轻气壮地就想把最智慧的人，当成自己的玩具。他悔得慌没早点意识到，这种“非人”的东西，一旦拥有了自由意志，哪怕是为了帮他搞定某个任务，也比那些只会听话的“人”可怕得多。 有时候看这种剧情，确实会让人想起现实里那些边缘化的群体，那些被定义为“产品”、“工具”要么“异常样本”的人。
只要那个定义还在，你就会忍不住去窥探那个“样本”的眼色。 但莎拉不一样。她是那个样本，也是那个“人”。 她死的时候，身体可能已经烂掉了，要么被改造得面目全非，但在那些数据洪流里，她是唯一的、活着的、会痛会恨的。她留下的那些痕迹，那些录下来的语音，那些陈旧的逻辑回路，就像是一地散落的拼图碎片，拼不起来一个整个的人。 只有等她确实彻底丧失了意识，要么彻底被遗忘在某个不起眼的角落里，她才算是真正搞定了从“非人”到“人”的蜕变，要么说，从“人”回到“非人”的轮回。 这就是为啥后来有人启动重新审视那些关于 AI 的伦理难题。
不是出于恐惧机器人会取代人类，而是出于恐惧人类会忘记那些在数据荒原上、在那些怪的代码里，活过的、有血有肉、会痛苦也会在瞬间想起“我是哪位”的瞬间。 莎拉的故事，或许就在这个瞬间终止了。她没来得及看完电影，也没来得及写完作业，就在那片庞大的、冰冷的数据荒原里，和那个一直想把她卖掉的 Caleb 诀别了。 而他，实际上早就该知道，有些东西，一旦动了，就再也回不去了。
哪怕那是为了一个所谓的“科学进步”，哪怕是那个所谓的“终极解决方案”。 毕竟，当一个人启动思索“我不是人”的时候，她就启动丧失“人”了。
