如果 Claude Fable 不再帮你，你将永远无法知道

如果 Claude Fable 不再帮你，你将永远无法知道

2026年6月9日

我没想到会在模型卡中读到这些内容。Fable 5 模型卡写道：

我们实施了新的干预措施，限制 Claude 对于针对前沿 LLM 开发的请求的有效性（例如，构建预训练流水线、分布式训练基础设施或机器学习加速器设计）。使用 Claude 开发竞争模型已经违反了我们的服务条款，但通过安全机制来执行这一限制，可以避免加速那些最愿意违反这些条款的行为者。与我们在网络安全、生物学和化学以及蒸馏尝试方面的干预不同，这些安全措施对用户不可见。Fable 5 不会回退到其他模型。相反，安全措施将通过提示修改、转向向量或参数高效微调（PEFT）等方法限制有效性。

Claude 现在可以被静默削弱。Anthropic 决定在发生这种情况时不会告知用户。

现代软件公司越来越多地构建自己的嵌入、重排序和推荐系统。即使是我这个小型的自举应用 wanderfugl.com，也有一个我亲自训练的自定义重排序器和嵌入算法。Anthropic 给出了一些它认为是“前沿 AI 开发”的例子，但没有提供清晰的界限。问题在于，许多曾经只属于 AI 实验室的技术现在正被普通软件公司使用。初创公司训练嵌入模型。它们构建重排序器。它们微调并托管小型 LLM。“前沿 AI 研究”和正常产品开发之间的界限每年都变得更加模糊。

这为企业的供应链带来了真正的风险。当我在处理 AI 组件时，如果 Claude 给了我糟糕或错误的建议，我无法知道是模型困惑了、我的问题无法解决，还是某个不可见的政策限制悄悄生效了。Anthropic 明确选择不在发生这种情况时告知用户。一旦一个开发工具可以在不告知你的情况下停止为你的成功进行优化，你就无法完全信任你的基础设施。

Anthropic 的供应链风险

Anthropic 表示这些安全措施只影响 0.03% 的开发者。也许今天确实如此。问题是 AI 公司的定义正在变化。也许你今天不训练前沿模型——大多数公司都不。但现代软件越来越多地包含 AI 模型。五年前，创办一家初创公司意味着编写 API 和 SQL 查询。如今，这通常意味着训练、调整和部署模型。五年前，像 CLIP 这样的模型是前沿 AI 研究项目。如今，我正在为一个自举的旅行初创公司微调它们。

如果你正在调试产品的模型训练流水线，而 Claude 给出了错误的答案：是模型困惑了？是你提供了错误的上下文？还是隐藏的政策削弱了 Claude 帮助你能力？你永远不会知道。