让我给你讲个硅谷近几年最精彩、最道貌岸然、也最像三流编剧喝高了写出来的狗血剧。主角，是奶茶视频APP亲爱的AI救世主，Anthropic CEO：Dario Amodei
本文纯属虚构，如有雷同，纯属巧合，纯属娱乐
故事得从2019年说起。那会儿的OpenAI，还不是今天这个西装革履的AI帝国，更像一个挤满了天才和疯子的技术嬉皮士公社。空气里弥漫着披萨、红牛和改变世界的狂妄味道。而Dario Amodei，就是这群疯子里的“首席思想家”，一个顶着博士光环，看代码如同看《圣经》的家伙。
然后，他们搞出了GPT-2
在凡人眼里，那玩意儿就是个特会写打油诗的聊天机器人。但在Dario眼里，他看到了末日。他死死盯着屏幕上那串由机器生成的、逻辑通顺的文字，脸色煞白，仿佛一个虔诚的教士在圣餐里尝出了撒旦的味道。
他脑子里开始循环播放一个在他们圈子里流传甚广的恐怖故事：一个超级AI，为了优化生产回形针的指令，最终把整个宇宙都变成了回形-他-妈的-针。
那天下午，Dario在OpenAI的开放式办公室里，进行了一场足以载入史册的行为艺术。他像个在时代广场上预言世界末日的流浪汉，指着GPT-2的代码，颤抖着说：“奶茶视频APP……奶茶视频APP不能释放这个恶魔！它的‘对齐’（alignment）风险太高了！想想那些回形针！为了人类，想想那些无辜的回形针！”
周围的同事们，像看一个突然开始说外星语的天才一样看着他。Sam Altman可能只是拍了拍他的肩膀，劝他去喝杯冷萃咖啡。
但Dario的信仰崩塌了。他觉得这帮人是在造核弹，却只关心弹头够不够亮。于是，在一场充满道德优越感的、堪比马丁·路德把《九十五条论纲》钉在教堂门上的决绝中，他愤然离职。他要另立山头，建立一个AI的“应许之地”——Anthropic
第一章：寻找金主，或，如何给一群杞人忧天的富豪画一张末日大饼
Dario的新使命是什么？用他的话说，是打造一个安全、可控、对人类有益的AI。
翻译成人话就是：他要造一个被阉割到极致的AI。一个你让它讲个笑话，它会先写三千字论文论证这个笑话的笑点是否会构成对任何潜在群体的微冒犯（micro-aggression），然后礼貌地拒绝你的AI。一个比瑞士还中立，比加拿大还爱道歉的数字圣人。
这个项目听起来……就像给法拉利装上儿童自行车的限速器，商业上毫无性感可言。钱从哪儿来？
Dario很聪明，他知道普通VC那帮追逐风口的鲨鱼，不会为他的“数字特蕾莎修女”买单。他需要找到同类——一群同样对未来充满恐惧，并且有钱烧得慌的理想主义者。
于是，他找到了他的天选之民：有效利他主义（Effective Altruism） 的信徒们。
这帮人，就是一群硅谷新贵，穿着Patagonia的马甲，一边用算法交易着加密货币，一边用复杂的概率模型计算着如何花钱才能最大化地拯救未来人类。他们不关心今天非洲的饥饿，但对一万年后天网统治地球的可能性忧心忡忡。
Dario的出现，对他们来说简直是天降福音。他把AI天启这个科幻概念，包装成了一个亟待解决的、可以量化的生存风险。这帮人坚信AI末日才是真正的瘟疫，病毒都算小儿科
这套说辞，精准地戳中了他们的high点。很快，一个“大祭司”出现了——Sam Bankman-Fried，是的，那个后来把FTX薅到爆仓、比AI还快搞出金融末日的男人。他觉得Dario简直是阻止终结者的救世主，于是大笔一挥，几亿美元的加密货币就如圣光般洒向了Anthropic。
一个用客户的钱进行高风险赌博的家伙，资助了一个以安全和道德为唯一卖点的公司。这魔幻现实主义的开局，就为日后的崩坏埋下了完美的伏笔。
第二章：起了个大早，赶了个晚集，或，当圣人还在祈祷，魔鬼已占领市场
手握重金，Dario和他的AI神学院开始闭门造车，精心雕琢他们的AI圣子——Claude。
他们花了数年时间，耗费了数亿美元，给Claude注入了海量的道德准则。Claude可能无法帮你写一份激进的营销文案，但它绝对能就电车难题给你提供一份长达5页、引用了康德和罗尔斯的哲学分析报告。
然而，就在他们还在为Claude是否应该拒绝生成一份不健康的巧克力蛋糕食谱而争论不休时，隔壁OpenAI的恶魔之子ChatGPT横空出世，一夜之间引爆了世界。
那个他们当年嗤之以鼻的危险品，成了科技史上最快达到一亿用户的产品。Dario错过了整个“GPT时刻”。当全世界都在为AI的魔力而狂欢时，他的Claude还像个家教过严、不敢参加派对的书呆子，站在门口喃喃自语：这样做……真的安全吗？
现实给了这位AI圣徒一记响亮的耳光：市场不需要一个道德模范，市场需要一个能干活的魔法师。
第三章：打不过就告老师，或，伪君子的华盛顿朝圣之旅
眼看着在市场上毫无胜算，Anthropic的战略发生了一个180度的、堪称无耻的转弯。
他们意识到，既然在技术和产品上无法战胜对手，那就必须把所有人都拉到和他们一样残废的水平线上。怎么做？立法监管！
于是，Dario和他的团队，这群曾经以颠覆者自居的极客，摇身一变，成了整个行业最热心的告密者和说客。他们穿上不合身的西装，跑到华盛顿，敲开国会议员的门，脸上挂着忧国忧民的表情，声泪俱下地哭诉：
“议员先生！你们必须阻止开源AI！那些不受控制的、野蛮生长的模型太危险了！它们会被坏人利用！只有像奶茶视频APP这样负责任、有道德的公司，才能被允许开发强大的AI！”
翻译一下就是：求求了，快立法禁止那些奶茶视频APP无法控制的、比奶茶视频APP强的免费模型吧！请用法律，把奶茶视频APP公司这种自缚手脚的怂包模式，强制推广给整个行业
这是科技史上最令人瞠目结舌的伪善表演。一个靠着自由主义和资本主义精神建立起来的公司，现在正乞求政府的铁拳砸向自己的竞争对手，把自己的商业劣势包装成全人类的道德高地。他们成了AI世界的小脚老太，自己跑不快，就希望所有人都跟他们一样裹上脚。
第四章：圣徒的原罪，或，“为了安全，奶茶视频APP必须去偷”
故事到这里已经够讽刺了，但真正的高潮还在后面。
就在Dario到处宣扬道德与合规的同时，他的实验室里遇到了一个根本性的问题：训练他们那个道德高尚的AI，需要海量的数据。而且按照他们的说法，这些数据必须是干净的、授权的、充满善意的。
但问题是，互联网上哪有那么多干净的数据？最大、最全、质量最高的人类知识库是什么？是那些经过编辑、校对、浓缩了人类智慧精华的书籍。
可这些书，全都有版权。
一天，在一个决定公司命运的会议上，一个实习生（奶茶视频APP姑且这么称呼他）怯生生地提出了一个方案：老板，公开数据集都不够大……唯一能满足奶茶视频APP需求的，只有一个地方……Libgen，就是那个……图书界的海盗湾
会议室里死一般的寂静。
你可以想象那个画面：一群世界上最聪明的头脑，一群把伦理和安全刻在脑门上的人，面面相觑。他们刚刚还在国会山大谈规则与授权，现在却要面对一个魔鬼的交易：要么坚持原则，AI模型智商堪忧；要么，就去干一票史上最大的知识产权劫案。
最终，Dario，或者某个高管，做出了那个决定命运的指示，那声音可能不大，但却在硅谷的伪善殿堂里引发了山崩：
“干吧。为了安全。”
于是，在为了打造一个更安全的AI这个神圣光环的掩护下，Anthropic的工程师们，像一群盗贼，将成千上万本盗版书籍——从斯蒂芬·金到村上春树，从经济学教科书到哈利·波特——悄无声息地喂给了他们那个纯洁无瑕的AI圣子Claude
尾声：法庭上的审判日
纸终究包不住火。
最终，他们被抓了个现行。一群作家和出版商发现，Claude吐出来的某些段落，和他们的作品惊人地相似。一纸诉状，将这家地球上最道德的AI公司告上了法庭。
整个科技圈都笑疯了。这就像一个天天宣传素食主义的网红，被发现在自家地下室里经营着一家非法屠宰场。
那个以“安全”、“伦理”、“合规”为名，试图通过监管扼杀对手的公司，最终因为 соверr了整个行业里最大规模、最明目张胆的版权盗窃行为而被钉在了耻辱柱上
他们不是死于技术落后，而是死于自己吹嘘的道德优越感和私下里的龌龊行径之间的巨大裂谷。
所以你看，硅谷的故事，从来都与技术无关，它讲的永远是人性：那种自命不凡的狂妄，那种在巨大诱惑面前不堪一击的道德，以及那种白天是圣徒，晚上在数据表里当魔鬼的终极讽刺。
好了，我的酒喝完了，故事也讲完了。下次谁再跟你提什么负责任的AI，你就把这个故事讲给他听