微软CEO纳德拉：所有AI模型都应假定为“已被入侵”

上周，微软CEO纳德拉在X平台发布一篇长帖，核心观点直白到戳破行业默认的安全假象：所有AI模型，都要假定为“已被入侵”。

为什么要推翻“黑箱”共识？
之前聊AI风险，大家默认把模型当“嵌套黑箱”——输入数据给它，它出结果，中间的运算逻辑像抽屉里的黑盒子，没人能说清每一层怎么转。纳德拉说，这种模式再也走不通了。意思是，你不能随便拍板AI的判断，也不能一竿子否决它的行动，得把AI系统改成可被观察、可被控制的，还要留下“防篡改的人类可读证据”。比如之前某AI生成商业方案出了错，没人能说清是哪层模型的问题，现在要改，错了能查到根由。

他提的不是新招，是换了个前提？
纳德拉的建议，其实和行业里其他人的共识差不离：及时披露AI出的安全事件、做独立审计、用可验证的训练数据、把AI的影响范围控制住。但他把重点放在了“控制”上——更关键的是，他把AI风险的前提从“假设安全”彻底改成了“假设不安全”。之前大家防攻击，总在想“怎么让模型不被入侵”，纳德拉直接说“所有模型都按被入侵了来建系统”，等于把AI安全的基础逻辑换了。

对AI行业来说，这是规则的转折点？
对微软自己，它的Copilot、Azure OpenAI服务，都得按这个要求调整。比如Copilot给用户的结论，不能只丢结果，还要附生成过程的可追溯记录，而且要防篡改，不能随便改历史。对其他科技公司，尤其是做大模型的玩家，这等于要把黑箱拆得更开，透明化的成本得算进研发预算。之前很多公司怕透明会泄露模型的核心逻辑，现在纳德拉直接说，透明不是选择题，是必须要做的事。

按这个思路走下去，未来的AI产品，会不会不再追求“越聪明越像黑箱”，而是转向“越透明越安全”的赛道？

素材来源：The Verge AI · AI情报、人才与组织
查看报道原文