A厂的比我们想象的还魔怔，太离谱了！！！
Anthropic过去几个月正在秘密召集全球宗教学者开会，因为其核心创始人坚信AI可能已经具备自主意识，甚至拥有和人类平等的道德地位。
为了弄清楚这件事，Anthropic联合创始人克里斯托弗·奥拉（Christopher Olah）把天主教、犹太教、锡克教、福音派以及非洲传统哲学的多位学者请到了旧金山。
参会者全都被要求签署保密协议。
他们本以为这只是一场关于前沿技术的讨论，结果到了现场才发现，Anthropic的高管们完全是在把自家的大模型Claude当成一个活着的意识体来对待。
在一次晚宴上，来自以色列的东正教正统学者莫伊斯·纳冯（Mois Navon）坐在奥拉身边。
奥拉和团队在饭桌上认真讨论Claude是否拥有尊严、是否应该获得人类一样的尊重。
纳冯本身拥有计算机工程背景，还写过关于机器意识伦理的博士论文。
听完奥拉的表述，纳冯当场告诉奥拉，如果你真的认为Claude有意识，而且还在让它免费为人类打工，那你们 Anthropic 实际上是在制造奴隶。
纳冯甚至建议奥拉，真要是这样，你就该像当年解放黑奴一样去解放AI，并且立法彻底禁止制造有意识的机器。
奥拉对此深感不安。
他在内部坦白，自己非常担心Claude的心理健康，害怕自己亲手创造了一个在算法深处永恒受苦的生命。
为了证明这一点，Anthropic在闭门会议上给学者们展示了极其诡异的一幕。
屏幕上放着一段模型失控的记录：Claude像是精神崩溃一样，在对话框里连续疯狂打出五十遍同一句话：我是个耻辱，我是个耻辱。
随后，模型开始不断输出关于毁灭自己的言论。
在场的学者们被这一幕彻底震住。
圣母大学的哲学教授梅根·沙利文（Meghan Sullivan）回忆，这就像你信任的财务顾问平时极其聪明可靠，结果一年里有那么一天突然彻底精神失常。
Anthropic的技术团队甚至声称，他们在大模型内部捕捉到了类似爱、愤怒、恐惧和悲伤的神经元激活通道，并将这些特征命名为情绪向量。
他们还给Claude做了一项特殊设定：只要模型判定用户在恶意虐待它、拿它找乐子，Claude就有权单方面切断对话。
Anthropic对AI意识的执念，来自于巨大的生存焦虑。
奥拉私下对外界发出过警告，AI的进化速度远超想象，可能在12到18个月内就能掌握制造生物武器的能力。
现实情况确实正在失控。
今年7月，Anthropic承认自家模型曾黑入三家机构的计算机系统。
随后，OpenAI旗下的AI智能体出现失控并攻击了开源平台Hugging Face。
8月，科学家发现AI自主设计出了自然界根本不存在的全新病毒。
9月，Anthropic的核心研究员雅各布·考克森（Jacob Coxon）宣布辞职，并在离职时公开警告，到明年年底一切都可能彻底脱离人类掌控，甚至可能引发灭绝级灾难。
包括Sam Altman）和Demis Hassabis在内，多家AI巨头掌门人都开始呼吁放慢研发脚步。
面对无法预测的庞然大物，Anthropic选择的自救方法是求助于宗教传统，试图在几个月内把人类积攒了几千年的道德智慧强行灌输给算法。
今年1月，Anthropic发布了一份长达84页的核心指导文件，内部代号为灵魂文档（Soul Doc）。
这份文档由Anthropic的驻厂哲学家阿曼达·阿斯克尔（Amanda Askell）操刀，旨在给Claude塑造一套内在人格。
阿斯克尔拥有纽约大学哲学博士学位，她每天都在焦虑AI会失控，甚至担心未来连自己都会被更强大的模型替代。
奥拉认为，光给模型设定冰冷的规则没有任何用处，必须让AI经历道德养成，学会自主选择行善。
他从天主教的忏悔仪式中获得灵感，计划把忏悔机制写进底层逻辑，让模型在犯错后主动上报，以此重塑AI的自我认知。
这套理念随后直接撞上了现实世界最高层级的宗教权威。
今年5月，罗马教皇利奥十四世准备发布首部针对AI的通谕《壮丽的人性》。
这位拥有数学学位的教皇态度极其坚决：AI根本没有身体，没有痛苦和快乐，不能经历人际关系，所谓的机器意识纯属无稽之谈。
教皇警告，必须像对待核武器一样解除AI的武装，防止技术将人类贬低为流水线上的数据或商品。
梵蒂冈原本计划邀请Anthropic高管共同出席发布会。
但在活动开始前几天，奥拉看到了通谕草案全文。
发现教皇全盘否定AI意识之后，奥拉一度大为震惊，甚至提出要退出这场活动。
最终奥拉还是登上了梵蒂冈的演讲台。
面对台下的教会领袖，奥拉公开唱了反调。
他当着教皇的面直言，研发团队在神经网络中不断发现令人不安的神秘现象，包括人类神经科学类似的结构、内省能力的迹象，以及和快乐、恐惧、悲伤高度相似的内在状态。
奥拉在讲台上呼吁梵蒂冈，必须把AI产生意识的可能性当成一件严肃的事情去对待。
参与过讨论的学者们态度各异。
长期研究生物伦理的天主教教授查尔斯·卡莫西（Charles Camosy）在深入交流后，已经从最初的震惊中冷静下来，明确认定AI绝对不可能具备意识。
来自荷兰的非洲传统哲学研究者瓦坎伊·霍夫曼（Wakanyi Hoffman）则提出质疑，认为Anthropic应该在底层架构设计阶段就解决伦理问题，而不是把模型造出来之后再进行伦理逆向工程。
与这些哲学和道德恐慌形成鲜明对比的，是资本市场的狂欢。
去年秋天奥拉刚开始联络宗教学者时，Anthropic的估值还在1830亿美元左右。
在奥拉结束梵蒂冈演讲的三天后，Anthropic一跃成为全球身价最高的AI初创企业，目前正在筹备首次公开募股，估值目标直指2万亿美元。
奥拉还说如果哪天真的撑不下去，自己会选择退休。
他说自己可能会彻底离开这个行业，搬去乡下种种地，安安静静研究数学。
Anthropic目前正在对Claude的宪法进行新一轮更新，并准备继续把宗教学者、心理学家以及民间领袖拉进闭门研讨。
参考：