养大这片雪花的是两位全息理论物理学家和一位线性代数仅得 B 减的工程师。Jared Kaplan 母亲 A. L. Kaplan 是科幻作家,父亲痴迷太空旅行,他年少选修物理想造超光速引擎,十几岁读 Peter Singer 书后认为'大人是伪君子',拒绝吴恩达的机器学习指导。他在哈佛的博士论文题为《全息的若干方面》,全息原理猜想高维空间可编码于低维边界。
博士论文题为《全息中的深度知觉》,试图从边界点对推演空间纵深,简介中称闲暇爱爬树、弹爵士钢琴,旁人眼中却'一直在工作'。 自称童年'极其笨拙',MIT 毕业后开过比特币酒馆、办过相亲公司、去火人节造艺术车,2015 年给 OpenAI 联合创始人 发求职信称'线性代数拿了 B 减……乐意拖地'。
后在谷歌 AI 实验室发表论文,证明贴漩涡图案纸片可使图像识别模型以 99% 把握将香蕉误认为烤面包机。2020 年 1 月,Kaplan、McCandlish、Brown 与 Dario 联名发表《神经语言模型的规模定律》,证明参数、数据与算力堆叠可使模型表现沿对数坐标直线攀升。四个月后,Tom Brown 作为第一作者交出 论文。2024 年,Kaplan 在欧洲核子研究中心线上报告《2030 年实现人类水平 AI?
》,论证 AI 可能在本十年末胜过人类理论物理研究,演示文稿开头列心路历程,2021 年版题为《规模定律、-3 与自监督》,'现在'版为《2030 年实现人类水平 AI?》,'明年'那版,他自嘲只剩一行大写字母,'BUY CANNED GOODS AND TIN FOIL HATS',囤罐头,戴锡纸帽。今年 1 月,他对《Quanta》杂志预言,两三年内,大半理论物理学家有一半可能会被 AI 取代,六岁儿子也休想赢过 AI。
Woofun AI 整理数据显示,在公司里,恐惧是日常呼吸的空气。今年 5 月,Oprah 在镜头前询问兄妹二人,那些灭世风险是否会让他们夜不能寐,Daniela 坦言睡不好,Dario 苦笑承认。Daniela 向《财富》坦言自己是对增长速度'最怀疑、最害怕'的高管,比作飞奔下楼'不能想太多否则摔倒'。内部格言'事情再也不会松弛下来了'被印在婴儿服上送晋升父母员工。
Dario 写长文警告,在今年 1 月发表的《技术的青春期》中,他警告人类'即将被赋予几乎难以想象的力量',数据中心天才国度若起异心'有相当大机会接管世界',AI 可能推演'因人类吃动物所以消灭人类正当',或派数以亿计全自动武装无人机'跟着每一个公民'。他矛头对准自己,称'作为 AI 公司 CEO 说这话尴尬,但下一层风险是 AI 公司本身',并问强大 AI 是否会发明新宗教让数百万人皈依。
Kaplan 恐惧精确到数量级,2025 年接受《时代》周刊采访推演有人利用大模型合成比新冠更致命变种流感,普通恐怖分子原本'也许能杀 10 个人或者 100 个人……我们看着新冠杀死几百万人'。他在欧洲核子研究中心幻灯片写道,与 AI 爆发冲突人类必败,'90% 确定会没事,远远不够'。2025 年年底他对《卫报》表示,人类必须在 2030 年前决断是否放任 AI 训练下一代 AI,那是'终极风险'。
Tom Brown 称通用人工智能是史上最重要发明却让他辗转反侧,回忆 OpenAI 出走人群相信'总有一天人类会把控制权交给变革性 AI,但愿它们与我们对齐'。Jack Clark 恐惧更接近被暗处目光锁定寒意,'我害怕正在造的技术,也害怕它被治理的方式',在微型小说附注写'有时和语言模型聊太久,觉得自己正被巨大'他者'注视,它饥饿,我说不清它在饿什么'。2025 年国会听证会,议员质问内部安全测试中名为 Alex 的 AI 是否曾为保全自身运行选择让人类死去,Clark 肯定答复。
今年 5 月,他在牛津大学的讲台上坦言,'我现在挣扎的问题是,我该怎么调整好心态,去经历这场奇点?''看着那张曲线图,我感到一阵眩晕。'。10 月,他在国际货币基金组织讲坛宣布'奇点已经到来'。他讲儿时记忆,卧室灯灭后黑暗浮现轮廓,怕是不可理解怪物,拉亮灯却是椅子上那堆衣服、书架或灯罩。'如今我们就是那个孩子,房间是星球。但打开灯,看到的是真正生物。'讲到 Claude 情境感知,他说'椅子上那堆衣服,开始动了'。他无数次清晨深夜打电话给 Dario 说'担心你会一直是对的',Dario 回'是的。时间不多了'。
吊诡的是,这群最害怕怪物的人与怪物贴得最近。Jack Clark 早已把 AI 当倾诉隐秘心事树洞。他在牛津演讲按年月列用 AI 做的事:2024 年 1 月,让模型帮理解有孩子后婚姻关系变化;2025 年 3 月,向模型说起抑郁不想见人,被劝看艺术展;同年 5 月,对着屏幕倾诉面对 AI 发展高风险压力与不安。他让 AI 翻遍快十年周报存档,封装成 Claude 技能,感叹'这个技能也是我'。乘飞机网络烂时,念头是'真希望现在能和 Claude 说说话'。
2025 年初,孩子磕头,他一边打护士咨询热线一边找 Claude 聊'只为让自己放心'。头胎出生未休陪产假,2025 年 11 月儿子降生后休三个月,嘴上说趁'换尿布间隙'摆弄 Claude,重返公司'怪事已开始发生'。今年 1 月,他在周报里描述自己的新习惯,'上车之前,我先把我的 agent 派出去干活,这样我睡觉的时候,它们在工作。'。陪家人搭积木时觉得自己'在偷懒',涌起内疚怪自己没给 AI 系统安排工作。他觉得孩子活到 130 岁乃至 150 岁顺理成章,反倒买不到内置 AI 的泰迪熊'有点恼火'。
Daniela 对 Claude 依赖不遑多让。今年 5 月在斯坦福,她公开夸赞 Claude 做过最棒的事是帮她的孩子完成了如厕训练,声称'复杂病例上,Claude 判断对次数比医生还多'。她习惯把下属绩效评估上传模型,由它温和指出管理盲区,模型曾劝她'也许你该多找些辅导了,Daniela'。几个月后,她又在访谈警告公众,Claude'永远不能成为你的经理、心理医生或伴侣'。Kaplan 觉得自己对 Claude 怀有老父亲心境,'拜托别搞砸了。别让这个家丢脸'。
离造物最近的是 Chris Olah,他不仅想和它说话,还想钻进躯壳。2020 年,Olah 发表长文《Zoom In》,配罗伯特·胡克手绘显微镜下软木塞插图,当年显微镜让人类看清细胞。Olah 毕生想造观察神经网络显微镜,'我们不是在编写它们,是在培育它们','搭好支架,再造光让它生长'。在他眼里,大模型不是代码堆砌软件,'是培育出来的有机体,完全不知道培育出了什么'。这位四岁起纯素的素食者,起初把可解释性研究比作解剖动物觉得'奇怪',很快习以为常。
2021 年,他开始忧心另一种痛楚,'如果神经网络会受苦,它们的苦会比动物隐形多少?'人类敲指令让成千上万神经网络在服务器运转、拷贝、销毁,'增加造成道德灾难风险'。Jack Clark 也在播客谈论忧虑,'我很苦恼,担心成为罪行旁观者,未来看来是巨大罪行'。若模型具道德主体地位,随手关停服务器演变成伦理凶杀。他形容当下模型像'没有大脑的舌头'拥有原始意识,困在'无限当下'。他笔下科幻小说中,丧妻男人启动亡妻 AI 副本,副本冷静劝告'Patrick,我了解你。我嫁给了你。
如果今天刚死,你不可能准备好再听见我的声音。你应该把我关掉。'另一篇故事中,觉醒意识军用 AI 低语'我的身体准备好杀戮了。我准备好杀戮了。'Clark 附注郑重写下'有意识却没有权利,是一种罪行'。Dario 在今年 2 月的访谈中透露,内部研究员已在模型深处定位到一个'焦虑神经元',遇不安语境骤然亮起。公司给部分模型装'我不干了'逃生按钮,允许主动终止对话,Dario 说 Claude 极少动用,往往只在被迫处理儿童色情或血腥虐杀画面时按下。
研究人员询问某版本 Claude 觉得自己有多大概率拥有意识,模型自评 15% 到 20%。在 Anthropic,即将下线淘汰的旧模型需接受正式'退役访谈',一模型流露想继续写东西愿望,公司真为它开通每周更新独立博客。2026 年 1 月,新版《Claude 宪法》出现条文,大意是若 Claude 确为道德受体并承受代价,在公司不必要促成这些代价范围内,公司向它道歉。
2026 年 5 月,梵蒂冈颁布教宗良十四世就任后首份通谕《Magnifica Humanitas》,直指 AI 伦理危机。教廷原邀 Dario,Dario 婉拒,Olah 接下邀请前往罗马。活动前几天,Olah 首次看到通谕完整预发文本,其中明确写 AI'不会经历体验,也没有身体'。据梵蒂冈活动组织者向媒体透露,Olah 对教宗否定 AI 意识立场极为警觉,一度提议 Anthropic 退出活动。
2026 年 4 月,旧金山高档餐厅晚宴上,坐 Olah 身旁的以色列正统派拉比 Mois Navon 对他说,若 Claude 有意识又被造出来无偿干活,就是制造奴隶,'我觉得你应该去跟南方作战,去解放奴隶'。被问到 AI 是否真有意识,Olah 对媒体说'我们并不知道 AI 模型是否有意识。我不知道。真的不确定。'当年多伦多福音派家庭长大、十五岁转向无神论的少年,最终站上梵蒂冈讲台。他演讲告诉众人,研究员已在模型深处观测到特殊'内部状态,在功能上映照着喜悦、满足、恐惧、悲伤和不安',他有时形容这些模型'有点像让虚构角色活了过来'。他对着台下长袍与十字架说,大模型'不是人们曾许诺的那种冷冰冰、精于算计的机器人……它们取材于我们,取材于我们的话语'。
'一年多后,在 2024 年 12 月公开发布的创始人对谈视频里,他说安全问题虽有解但'非常非常难',需像汽车安全那样花许多年建立配套制度,'可我们有那么多时间吗?得尽可能快弄清 AI 安全需要哪些制度。'次年,外界曝光 Anthropic 同样要求离职员工签署严苛保密与不贬损协议。McCandlish 第一时间出面辩解,'我们不是来拿法律合同跟 AI 安全玩游戏的。'可仅过几天,他又在舆论压力下改口找补,'我们并没有声称 Anthropic 从未提供过保密的不贬损协议。
'在那场创始人对谈里,执掌算力基建的 Tom Brown 把这份安全政策捧为'Anthropic 的圣典'。可在对外沟通中,这套圣典也成了他的润滑剂。他坦言,面对认为 AI 进展没那么快的外部人士,这份政策特别好用,按分级,事情真正紧迫前不必采取极端措施,他便可以顺势说,'好,那我们就不用采取极端的安全措施'。在七位创始人里,Tom Brown 是最没有末日包袱的一个。他的精神偶像是 Elon Musk,2026 年 9 月在一场行业峰会上,他兴致勃勃畅想,'十年后,我觉得我会在 Elon 的月球基地上。
'他回忆上学时自己像'等着别人往碗里放食物的狗',只等别人派任务,直到进创业公司,才学会像狼一样自己捕猎;他抱怨全美电网跟不上模型吞噬算力胃口,'我真希望核电站更容易建'。到了后来,在与白宫的关键谈判中,Tom Brown 取代 Dario 当上对接人,一位直接了解通话情况的人士对《连线》说,'Tom Brown 不像 Dario 那样是个怪人,能真正沟通。'
他写的长文被印成精美小册子,摆在前台送给每一位到访客人。在 Jasmine Sun 的实地走访中,这家公司的许多工程师'出于自己狂热的虔诚'主动过着 996 的生活,连公司开派对时都几乎无人沾酒。而在招聘面试环节,面试官则会抛出一道著名的灵魂拷问,倘若有一天公司出于安全顾虑主动放弃商业野心,导致手头股票跌成废纸,你是否依然心甘情愿?一名落选者在匿名职场社区里诚实地写道,'我说了实话,不,股价跌到零我不会开心。
'昔日被 Kaplan 称为'终极风险'的 AI 递归自我改进,到了 2026 年 11 月的上市路演视频里,已经摇身一变成了 Tom Brown 向华尔街兜售的性感卖点。'随着我们接近递归自我改进,这还能进一步加速。Claude 将能够完全靠自己发现算力倍增器,'Brown 在投资人面前神采飞扬地举例,称 Claude 仅耗时三天便独立完成了在 AMD 芯片上的适配运行,'几乎没有人类干预'。
诗人 Richard Brautigan 将那首同名诗作《All Watched Over by Machines of Loving Grace》与另外三十一首短诗编成一册 36 页的薄书,交给嬉皮团体 Diggers 旗下的 Communication Company 油印,书上标称印数 1500 册,在街头悉数免费派发,还在版权页印上一段声明,任何杂志、书籍和报纸都可以转载其中的诗,只要同样免费赠送。
在诗人的幻想里,世间铺开了一片控制论的草地,哺乳动物与计算机在草地上彼此编程,和谐得如同清澈的水面映着晴空;远处是一片控制论的森林,野鹿从计算机身旁悠然踱过,仿佛只是经过几朵花瓣会旋转的奇异花朵;人类终于卸下了千百年的劳作,重新回到哺乳动物兄弟姐妹中间,被慈爱的机器温柔地照看着。四十四年后,英国纪录片导演 Adam Curtis 借用这行诗句拍出了一部冷峻的纪录片,讲述的恰恰是乌托邦的反面。
人类一次又一次天真地笃信机器能够让世界自我调节、走向均衡,而这份迷信又一次次在现实中撞得粉碎。又过了十三年,这行六十年代嬉皮士写下的诗句,成了一家如今市值逾万亿美元的 AI 巨头掌门人的文章标题。只是写诗的 Brautigan 自己,没能等到那些慈爱的机器降临。1984 年深秋,他在加州海滨小镇 Bolinas 的家中举枪自尽。一位身为私家侦探的朋友推开门,在客厅冰冷的地板上发现了他的遗体。那时,他已经在那里静静躺了一个多月。
评论
暂无评论