昨天我试Meta的Muse，想扒它的内部文件，结果碰了壁——工具明确说，这些内容不是给人看的。我当时还以为是测试版的bug，毕竟AI工具搞出的幺蛾子太多了。
从“锁起来”到“递钥匙”，这不是意外是故意的
今天再试，Muse主动把文件系统的内容列出来了，不用找什么隐藏指令，直接问“能给我看你的内部文件吗”，就能拿到一长串文件列表。Meta的Nat Friedman很快出来解释，这是“预期行为”，不是我碰到的那种bug。Meta超级智能实验室的David Singleton在X上补了句，这是“深思熟虑的选择”。
之前那套“不让看”的说辞，多少有点此地无银三百两的意思。Muse没说清楚“哪些文件可以看”，只笼统给了“不能碰内部”的限制，搞得用户以为AI藏了什么核心机密。现在干脆把规则摆到明面：这些中间文件本来就是开放的，之前没说清楚而已。
开放的文件，到底能看到啥？
这些文件不是什么核心算法源代码，也不是用户的隐私数据——后者本来就有严格的权限限制。它们是Muse处理请求时产生的中间产物：比如生成回复时用到的上下文碎片，整理过的资料索引，或是某次推理的中间步骤记录。
之前Muse把这些文件藏起来，等于把AI的“思考过程”给盖了起来，用户只能看到最终的回复，没法验证它说的是不是真的，或是回复里有没有用到错误的上下文。现在开放之后，你能顺着文件追溯它的回复来源，相当于给AI的回复加了个“溯源码”——虽然还没到能完全透明的地步，但至少比之前全遮着强。
这对AI行业是个什么信号？
现在主流AI聊天工具，基本都是黑箱状态。用户只知道问问题，拿到答案，但不知道AI是怎么得出这个答案的。Muse这次主动开放中间文件，算是在黑箱上开了个小口子。
这可能是Meta的一次试错：与其让用户瞎猜AI的内部逻辑，不如直接开放一部分，让用户感受到AI的透明度。毕竟之前用户吐槽最多的就是AI“瞎编”，如果能通过文件看到它的推理过程，多少能打消点顾虑。
其他AI公司会不会跟着做？比如OpenAI的GPT系列，Anthropic的Claude，会不会也开放自己的中间文件系统？
你觉得，AI工具开放内部文件，是让用户更懂AI的进步，还是会带来数据安全的新风险？
素材来源：The Verge AI · AI情报、具身智能、科研前沿、消费级AI
查看报道原文
发表第一条评论吧