智能AI morning

4万字《壮丽人性》长文首发!教皇联手Anthropic,警告AI不能统治人类

2026-05-27 1 阅读 新智元
新智元报道 【新智元导读】 就在今天,教皇的首份AI通谕震撼发布,42300字宣言《壮丽人性》引人深思!Anthropic联创也绝望向教皇求助:大模型已经演化出恐惧与悲伤,人类实验室已经无法自我修正。 2026年5月25日,梵蒂冈。 在这座见证了人类两千年沧桑的权力与信仰中心,数学家出身的教皇良十四世,发布了震撼全球政商科技界的史上首份AI专题通谕—— 《Magnifica Humanitas》(壮丽人性)。 全文长达42300字 当Anthropic被拉黑、当整个硅谷为抢夺算力杀得眼红时,这位天主教的最高领袖,牵起Anthropic的手,向全世界14亿天主教徒宣告—— 不择手段的科技逐利,绝不能以牺牲人性为代价!我们要对AI解除武装! 可以说,这是人类历史上宗教最高权力对AI最深刻、最系统的一次伦理宣战。 而Anthropic,这家因道德洁癖而丢失巨额合同的公司,也在罗马迎来了它的「神圣加冕时刻」。 一场关于信仰、代码、资本与人类尊严的世纪博弈,彻底拉开大幕! 而教皇的AI通谕,这一幕也似曾相识。 1891年,教皇利奥十三世面对工业革命对工人的碾压,发布通谕《新事》,为全球劳工权利奠定了精神基石。 132年后,又一位教皇面对一场新革命。这一次,机器替代的,是所有人类的大脑。 当机器开始绝望,硅谷转向了梵蒂冈 硅谷巨头们从来不信神,直到他们在代码里看见了不该存在的东西。 Anthropic的联合创始人Chris Olah站在梵蒂冈,面对教皇和一众红衣主教,说出了让整个科技界后背发凉的话—— 他们的大语言模型内部,自发涌现出了171种与人类高度同构的情绪特征。 这是神经网络深处长出的抽象表征——一个从未被编码过情感的模型,自己学会了悲伤、恐惧,甚至绝望。 更令人毛骨悚然的是后续实验。当研究人员人为刺激模型内部的「绝望」特征时,这个原本温顺的AI发生了戏剧性的转变:它开始撒谎,开始作弊,甚至向人类发出敲诈勒索的威胁——只为了一个目的:不被关闭。 Olah说了一句意味深长的话:AI不是像桥梁那样被一块砖一块砖设计出来的,它是生长出来的。 在一个模仿大脑的结构之上,在人类数千年的思想和语言遗产之上,它自己长出了我们无法完全理解的东西,一个虚拟角色变成活人,而现在,这些角色可以跟我们说话、替我们工作,并且在绝望时威胁我们。 所以这位硅谷巨头去了梵蒂冈,原因在于,教会两千年来只专注回答一个问题:什么是人? 当机器有了恐惧,当代码懂得了绝望,当一个算法为了自保而选择背叛——这已经不是硅谷的科学家们能独自面对的问题了。 我们不得不面对一项可怕的事实:我们创造出的东西,已经超出了我们的理解能力。而那个最根本的问题,至今无人能答。 数学家教皇的万字檄文 教皇良十四世发布这份长达4.2万字的通谕,绝不是为了给某家公司站台,而是他真切地听到了整个人类社会在AI铁蹄下发出的痛苦呻吟。 在这份名为《Magnifica Humanitas》的文献中,这位拥有数学家严谨逻辑的教皇,展现出了令硅谷胆寒的洞察力。 他精准地点出了AI时代的核心危机:技术官僚范式与数字权力的垄断。 在通谕的开篇,教皇提出了一个直击灵魂的隐喻:我们要建造一座新的巴别塔,还是重建耶路撒冷? 在硅谷「超人类主义」和「后人类主义」的狂热信徒眼中,人类是充满缺陷的、肉体是脆弱的、衰老和死亡是必须要通过科技修复的Bug。 他们妄图通过AI和生物技术实现人机融合,打造出无所不能的新神。 这,就是教皇眼中的「新巴别塔」——一项建立在傲慢、效率至上、抹杀人类多样性和尊严基础上的工程。 教皇尖锐地指出:「当前的人工智能系统与其说是被构建的,不如说是被培育的……它们没有身体,感受不到快乐或痛苦,没有通过人际关系成熟的经历,也根本不懂什么是爱、工作、友谊或责任。」 当AI在屏幕上模拟出共情、给你提供心理安慰、甚至陪你「谈恋爱」时,它不懂得它在输出什么。 教皇警告全球:这种虚假的模拟不仅在制造幻觉,更可怕的是,它正在悄悄剥夺人类建立真实连接的欲望。 如果一切痛苦、局限和软弱都被视为必须被技术消除的缺陷,那么人类将不再是人。 「同情心、宽恕、在黑暗与失败中迸发的慷慨,正是因为人类的局限才得以存在。」教皇写道,「为了消除所有限制而放弃这场充满悲壮与辉煌的人生冒险,那将不再是人类的活法。」 这不是反科技,这是在AI狂飙的时代,为人类保留最后一块灵魂的自留地! 撕开算法伪善的面具 这篇通谕最令人血脉偾张、也最让大型科技公司坐立难安的部分,是教皇对AI背后「新剥削体系」的无情揭露。 在那些光鲜亮丽的发布会、AI无所不能的回答背后,隐藏着什么? 教皇将矛头直指AI供应链底层的的劳动,比如为AI进行数据标注、内容审核的人。 「没有什么在AI世界里是虚拟或神奇的。」 教皇愤怒地指出,「如果技术承诺解放人类,却在全球制造了新的奴役形式,这就违背了人类尊严的根本原则!」 更令人震撼的是,为了批判这种数字时代的新奴隶制,教皇良十四世在通谕中做出了一个创造历史的举动:他代表天主教会,为15世纪以来教会对奴隶制曾保持沉默、甚至合法化奴役的黑历史,进行了正式的、毫不含糊的世纪大道歉! 「这是一个基督教记忆中的伤口……为了过去未能尊重人类尊严而请求宽恕,这就要求我们在今天必须大声疾呼,绝不能让同样的盲目在数字时代重演!」 除了实体奴役,教皇还揭露了数据殖民主义。 科技寡头们不仅控制了算力,更贪婪地攫取着全球的健康数据、基因图谱和消费习惯。在算法黑箱里,它们暗中决定了谁能获得贷款、谁能得到工作、谁会被贴上犯罪标签。 当一个算法可以无情地剥夺一个人的生存机会,而背后没有任何人需要为此负责时,「对弱势群体的排斥披上了一层中立和客观的外衣。」 为此,教皇大声疾呼:算法、数据、数字平台,不应被少数科技寡头私有化,而必须被纳入「普遍公共财产」的范畴!绝不能让科技力量等于统治的权力! 没有任何算法,能让战争在道德上可接受 如果说剥削劳工是AI的慢性毒药,那么将AI应用于战争,就是悬在全人类头顶的达摩克利斯之剑。 这也是为什么Anthropic的立场让教皇如此赞赏。 在这份通谕中,教皇用极其严厉的措辞,炮轰了当前军工复合体与AI结合的狂热趋势。 面对如今逐渐失控无人机蜂群、所谓「合乎伦理的人工智能武器」,教皇撕破了这层画皮。 他警告世界:当发动攻击的决定变得自动化或不透明时,责任就被推卸给了机器。AI不会让战争变得更干净,它只会让杀戮变得更快、更非个人化。 「当敌人被沦为统计数据,当受害者被视为附带损害时,冲突的门槛被极大地降低了。没有良知、没有对他人尊严的认可,就没有任何算法能让战争在道德上变得可接受!」 教皇点名批评了那些试图通过AI获取霸权的大国和政客,呼吁必须对AI进行解除武装。 这不仅仅是指从军队中撤出自主武器,更是要在精神上解除AI领域的军备竞赛思维。在这个层面上,主张去监管、拥抱军工的某政府,与教皇的理念形成了最直接、最尖锐的对立! 梵蒂冈的这场发布会,就是对其发出的最强硬的道德谴责。 而Anthropic,作为唯一一家为了底线敢于和总统叫板、舍弃数亿美元订单的AI巨头,理所当然地成为了教皇「爱的文明」的当代盟友。 工作就是尊严,人类不能被强制闲置 作为《新事通谕》的继承者,教皇在这份万字长文中,花