工业AI自主化，不能丢了安全这条线

过去两年，工业AI的行业采纳增速接近78%。这个数据来自AVEVA的首席技术官Arti Garg，她在MIT Technology Review的播客里拆解了当前工业AI的拐点——从几十年前的故障预测这类专项应用，转向了能对接实体系统的自主应用。

从“预测”到“碰实体”的新台阶

For over 20 years, AVEVA一直在做工业AI，核心是用数据预测设备故障、优化运维。但最近几年，三类技术把AI的边界拓宽了：基础模型让更多人能用上先进AI，物理AI帮机器人、自主系统提能力，智能体AI则实现软件层面的自动化。不用太深度的技术背景，工业人员也能灵活调用这些工具，这才催出了78%的增速。

实体场景里，容错空间几乎为零

工业AI和聊天机器人不一样——它要碰阀门、机器、无人机这些实体。一个意外决定，可能直接影响安全、可靠性甚至关键基础设施。Arti Garg提了个扎心的问题：“怎么用上这些新技术，还能保住安全、稳住运行，兑现新能力的承诺？”
现在的新AI能力越强，反而越难预测、难解释，这让工业领域的采纳有了隐忧——没人敢在容错空间近乎为零的场景里，用一个“黑箱”一样的AI。比如让AI机器人去危险环境巡检，要是AI判断错了路径或操作，不仅救不了人，还可能引发安全事故。

破局的三个方向

首先是数据：工业系统里有遥测数据、服务日志、工程文档这些分散的信息，新AI能更快把它们串起来，给运维人员实时支持。其次是治理：AVEVA有一套负责任AI的框架，核心是安全、效率和人类安全监督。Arti Garg说，AI要做决策的辅助，不是替代——得设好“护栏”：哪些场景自动做，哪些必须人负责。第三是可持续性：AI能帮着管理可再生能源的电力系统，但同时得算AI自己的环境 footprint，Arti Garg正在参与IEEE的工作组，做一套标准，衡量AI在用电、资源、水、碳排放上的影响。
最后，不是光装新东西就行，企业得重新想业务流程，给有经验的工人新途径发挥专长，让自动化既自主，又安全高效。

Arti Garg认为，不管是机器人还是无人机，自主系统会改变工厂、矿山、电力系统的工作方式，让操作更安全、更高效。但反过来想：工业AI的自主化浪潮已经起来了，可在实体场景里，“安全”到底是技术上线前的补丁，还是从设计之初就钉死的核心原则？

素材来源：MIT Tech Review AI · AI情报、AI智能体、AI政策与监管
查看报道原文