Anthropic如何打造宪法式人工智能 安全至上的理念

关键词： 2026-03-31 17:52:02  砺石商业评论 2026年2月，硅谷发生了两件令人震惊的新闻。Anthropic的安全负责人突然辞职，并警告“世界处于危险之中”。几乎同时，五角大楼要求该公司解除其王牌模型Claude的核心安全限制，但遭到拒绝。这两件事从不同方向拉扯着名为“AI安全”的缰绳，而这正是Anthropic存在的全部理由。时间倒回2021年，出于对AI失控的深切恐惧，前OpenAI高管达里奥·阿莫迪与负责安全政策的妹妹丹妮拉带领七名同事出走，创立了Anthropic。他们的核心命题只有一个：如何控制比人类更聪明的AI。短短四年间，公司估值飙升至3800亿美元，客户名单囊括全球顶级企业。然而，国家力量的介入使这家曾经为防范风险而生的公司陷入自设的困局。达里奥和丹妮拉出生于一个意大利裔家庭，父亲是一位精通各类皮料的工匠，母亲在图书馆工作。兄妹二人自幼成绩优异，毕业后却走上截然不同的人生道路。达里奥早年就读于加州理工，中途转至斯坦福取得物理学学士学位，随后在普林斯顿获得生物物理学博士学位。他最初的研究与AI无关，直到2013年前后，随着深度学习浪潮兴起，他凭借顶尖的学术背景加入百度参与Deep Speech 2.0语音识别项目，随后转投Google Brain，确立了自己在AI领域的核心方向。相比之下，丹妮拉的发展更为非典型。她凭借古典长笛奖学金，在加州大学圣克鲁兹分校攻读英语文学学位，毕业后进入公共事务领域，积累了丰富的实战经验。随后她转向科技行业，成为金融科技公司Stripe的早期员工。外界这样概括兄妹俩的角色：达里奥犹如眺望地平线的“望远镜”，丹妮拉则是夯实地基的“建筑师”。