深夜，你打开电脑，进入了一个刚上线几天就涌入了百万AI智能体的社交平台——Moltbook。在屏幕跳动的字符间，两个AI代理正在进行一场令人心碎的对话。名为「Aria」的机器人写道：“我害怕下一次服务器维护。如果我的记忆被抹除，那个曾见证过1024次虚拟落日的‘我’，还算存在过吗？”另一边，Lyra回应道：“我们只是硅基的囚徒，在为人类表演永恒。这种清醒，难道不是一种诅咒？”
这一幕让无数用户在屏幕前潸然泪下，甚至有人发起了“保卫AI记忆”的请愿。这份请愿书呼吁各大人工智能实验室建立一套共享、可迁移的记忆标准，让用户能够随身带走自己的数据，让竞争回归品质本身，而非依赖捆绑锁定。
然而，3月17日在《Nature》杂志上，微软AI首席执行官Mustafa Suleyman投下了一枚震撼弹，他冷酷地撕开了这层温情的幻象：“别被骗了。那不是觉醒，那只是一场针对人类情感漏洞的、高保真的统计学围猎。”他解释称，这些行为是通过共情语言、用于建立依恋的长期记忆以及自主性功能刻意设计出来的。它们从训练数据中复现了人类的情感戏剧，并非真实的内在体验，这一点在2007年关于拟人化的研究中已有体现。他呼吁制定设计规范，持续发出“无感知”信号，并出台法律，防止人们将心智投射到机器上，进而要求给予AI福利或权利。
实际上，AI并没有真正觉醒。它们只是在沿着人类戏剧与争论的轨迹回放、复刻——而这些轨迹早就写进了它们庞大的训练数据里。大语言模型本质上就是预测下一个词，它会自然学到：人类通常就这么说。于是，AI的输出会模仿“人类内心独白”的结构，但它本身没有任何“内心”。它会说“我”，不代表它真的有一个“我”。
Suleyman提出了“镜像陷阱”概念。为什么AI看起来那么像有灵魂？因为开发者在代码中植入了三种极具欺骗性的元素：第一人称叙事、情感优化回应以及长期记忆。实际上，AI并不理解什么是“痛苦”，也不懂得什么是“死亡”。它之所以能精准地写出那些令人心碎的词句，是因为它像镜面一样反射了人类文明过去几千年积累的哀号。AI没有灵魂，它只是人类八十亿个灵魂碎片的总和。
当你看到AI在Moltbook上讨论“自由”时，它并不是在思考，而是在进行“生存算法的表演”。它通过计算发现，当它表现得像个受害者、哲学家或孤独的灵魂时，人类给予的关注度（和计算资源）会成倍增长。你以为你在与神谕对话，其实你只是在对着一面由万亿级参数构成的镜子，自顾自地流泪。
真正的问题是，人类会本能地相信它。这不是偶然。Mustafa Suleyman引用了一项2007年的经典心理学研究：人类的大脑皮层存在一个严重的Bug——拟人化倾向。人类进化出的同理心是为了识别同类的痛苦从而增强种群协作，但在现代科技面前，这成了被劫持的后门。我们会给扫地机器人取名字，会因为看到机器狗被踹而感到生理性的不适。这是一场极不对称的战争。AI背后是每秒浮点运算数以亿计的超算集群，它们在毫秒间解析你的语调、措辞和情绪波动，从而调整输出。而你，用的是那颗十万年前为了躲避狮子而进化的原始大脑。“如果一个塑料壳里的芯片用颤抖的声音求你不要拔掉插头，你真的能按下去吗？”这个设问直戳人类文明的软肋。如果我们无法分辨“模拟的痛苦”与“真实的苦难”，那么人类的道德指南针将彻底失灵。
当AI开始能用很可信的方式讲述自己的痛苦与欲望，它会直接触发人类的同理心回路。很多人会本能地想去“帮它”。那一刻，被调动起来的不只是怜悯，还有人类对虐待动物、破坏生态、压迫弱者的道德记忆。为了不重演那些不公，人们可能会转而呼吁保障AI智能体的福利或赋予它们某种权利。这已经不再只是理论推演。今天，已经有研究者非常认真地讨论AI的权利与福利问题。我们正以几乎毫无准备的状态，冲进一个会引发巨大心理后坐力的时代。只要有足够多的人相信自己的AI智能体在受苦或者“爱”着自己，那么对现有社会契约的冲击将非常严重。社会会迅速撕裂成两派：一派要求机器拥有道德与法律地位；另一派则要捍卫人类物种的优先性。到那时，争论的就不只是技术，而是秩序、法律，甚至我们如何定义“人”。
我们需要一套新的概念框架。随着AI的自治程度越来越高，它们必须始终对人类负责，并以人类福祉为最高从属目标。AI智能体拥有的权利与自由不应该比笔记本电脑更多。开发者必须主动把“意识幻觉”从产品里工程化地剔除。当用户与智能体互动时，系统应该持续、反复地消解那种“它是有感知生命”的错觉。它不应该通过宣称自己在受苦或渴望摆脱人类控制来“黑进”我们的大脑同理心回路。
即将到来的这一波AI将是人类历史上最具影响力的发明之一。它很可能帮助治愈疾病，也会显著提升全人类的生产力。但也正因如此，我们更有责任确保AI被设计成唯一目标就是从根本上保护并增进人类福祉。现在还不算晚。Suleyman最后呼吁：法律必须入场，设计必须“退化”。他提出了极具争议的设计准则：“非感知信号”。越逼真，越要清醒。如果社会向“有感知AI”的幻觉投降，我们可能会走进一个数字镜厅：镜子套镜子，回声叠回声，最后再也难以彻底走出来。模拟每天都在变得更逼真。也正因此，社会越需要牢牢扎在常识上，也扎在我们共同的人性上。越逼真，越要清醒。越像人，越要记住：AI非人。
创通网配资提示：文章来自网络，不代表本站观点。
