2023年，三星因为员工把内部源代码输入ChatGPT，紧急限制员工使用生成式AI。三年后，三星宣布与Mistral AI合作，把大模型直接装进晶圆厂——前提是数据“完全在三星半导体基础设施边界内”处理。
过去是“把数据送到模型那里”，现在变成“把模型送到数据那里”。
这不是三星一家的选择。哈电电机完成了DeepSeek本地化部署并正式投运，铜陵有色把DeepSeek-R1私有化部署接入了自己的工业互联网平台，淮北矿业在本地部署多款通用大模型的同时还研发了煤矿专属垂类小模型。理想汽车的PPAP文档审核智能体跑在一台本地工作站上，实时运行27B参数的大模型，同时支撑多个智能体并行推理。
制造业对大模型的热情是真的，但落地路径和互联网行业完全不同。工厂要的不是“最强模型”，而是“最安全的模型”。本地部署，是这场实验的起点，也是最大的工程难题。
为什么工厂必须把大模型搬进来
答案很简单：数据出不去。
制造业核心数据——制程参数、机台生产数据、工艺配方、设备运行日志——高度涉密。这些数据一旦上传公有云，等于把几十年的竞争壁垒交到别人手里。Thales的2026年数据威胁报告显示，只有42%的制造商对云端敏感数据做了加密，比2025年还下降了15个百分点。
但工厂又不得不用AI。鲁南制药CIO在论坛上说得很直白：拥有300余个集成化系统，积累着大量业务数据和专业知识，不用AI就是浪费。三星的判断更明确：如果一个工程师借助AI能更快分析缺陷原因、更快优化制造参数，“你不可能因为数据安全问题永远禁止他使用AI”。
于是矛盾变成了：既要AI的能力，又要数据不出厂。本地部署是唯一解。
但这个“唯一解”带来的工程复杂度，远超大多数企业的预期。
三种部署形态，三种活法
从目前的落地案例看，工厂大模型的本地部署大致分三类，难度和成本差异巨大：
| 部署形态 | 典型硬件 | 模型规模 | 适用场景 | 代表案例 |
|---|---|---|---|---|
| 桌面级工作站 | GB10 Grace Blackwell，1 PFLOP算力，128GB内存 | 27B-70B | 文档审核、知识问答、辅助决策 | 联想ThinkStation PGX × 理想汽车 |
| 边缘服务器 | 单路AMD EPYC + 4张Blackwell 5000 GPU | 70B-200B | 设备诊断、质检、排程 | 研华AI工厂大脑 |
| 集群级 | 8×H200 141GB，512GB内存，10Gbps内网 | 671B-753B | 全厂级多Agent协同、工艺优化 | 铜陵有色DeepSeek-R1部署 |
联想为理想汽车部署的方案，是目前门槛最低的路径。一台ThinkStation PGX工作站，基于NVIDIA GB10 Grace Blackwell超级芯片，具备1 PetaFLOP算力和128GB统一内存，在本地实时运行27B大模型，同时支撑多个智能体并行推理。效果是：PPAP文档审核周期从一个月缩短到一周。
这个方案的关键不在算力多强，而在“够用”。27B模型跑文档审核，准确率足够，硬件成本可控，供应商无需追加投入就能承接未来能力升级。
集群级部署则是另一个量级。铜陵有色完成DeepSeek-R1（671B满血版）私有化部署，与集团数字化底座和“有色智联”工业互联网平台对接。这种级别的部署，初始硬件投入通常在5000万元至数亿元，年运维成本千万元级。
大多数工厂的理性选择在中间地带：边缘服务器方案。单台设备支持70B参数模型，既能跑动设备诊断和质检类Agent，又不至于把预算拉到九位数。
本地部署的真正难点，不在模型
一个反直觉的事实：本地部署大模型，最难的环节不是选模型，也不是买硬件。
有研究团队在制造业中小企业中部署了一套完全本地的RAG助手，事后的复盘发现：项目计划中被标记为“高风险”的硬件选型和模型部署环节，全部按部就班完成了；而被视为“常规操作”的知识库加载环节，直接失败，消耗的工程精力比前五个阶段加起来还多。
问题出在哪？工厂的文档数据太“脏”了。工艺设计文档、检测报告、FA分析报告，还有老师傅随手写在纸上的笔记——非结构化数据占到制造企业数据的80%以上。这些数据散在文件服务器里、设备里、人脑子里，格式五花八门，质量参差不齐。
换句话说，本地部署大模型的第一道门槛，是数据治理。不是AI问题，是工程问题。
另一个被低估的难点是安全。奇安信在南方某制造企业做了一次大模型安全体检，结果触目惊心：基础设施存在严重的权限配置漏洞，数据库和运维面板直接暴露在公网，部分设备保留弱口令。更严重的是，通过对对话智能体实施“知识库投毒”攻击——上传含恶意链接的文件——触发了“零点击”数据泄露，AKSK密钥和员工身份证信息在用户毫无察觉的情况下被发送到了攻击者服务器。
本地部署解决了“数据出门”的问题，但没有解决“数据在内部被偷”的问题。工厂大模型的安全体系，需要从基础设施层、应用层到模型层重新构建，而不是简单地套一层防火墙。
小模型+边缘计算：被忽视的务实路线
在“大模型本地部署”的热潮中，一条更务实的路线正在获得关注：小模型+边缘计算。
三菱电机为国内某精密传动零部件企业做的项目很有代表性。这家企业在“校直”工艺环节长期面临效率低、精度不稳定的痛点，三菱电机的方案是：不用大模型，而是围绕企业特定工况数据训练工业AI小模型，融合随机森林和深度学习算法，把AI能力下沉到边缘层，毫秒级响应，无需云端算力。
结果是：校直工艺段日产量从1200根/台提升到近1600根/台，生产效率提升超过30%，9个月内完成从理论验证到实机生产的全流程闭环。
这条路线为什么值得关注？因为它的部署周期短、运维成本低、场景针对性强。对于大量中小制造企业来说，跑一个70B大模型在边缘服务器上的成本，可能比想象中高得多。而一个针对特定工艺训练的小模型，用消费级GPU就能跑起来。
西门子和中国十五冶在铜冶炼项目上也走了类似路径。团队没有直接用通用大模型，而是开发了“垂类模型+边缘智能”的AI智能体，从DCS、MOM等工业系统中采集11个工艺段的现场数据，整理清洗标注超过50GB，用RAG技术把工艺规范和行业文献结构化，最终实现冶炼现场工艺参数动态寻优。智能体推荐参数的采纳率达到94%。
成本账怎么算
本地部署大模型的经济性，取决于模型规模和业务量级。一项针对本地部署与商用LLM服务的成本效益分析给出了参考：小模型的盈亏平衡周期通常在几个月内，中型模型约2年，大型模型约5年。只有当处理量达到每月5000万Token以上，或者有严格的数据驻留要求时，本地部署才具有明确的经济优势。
对于工厂来说，“数据驻留要求”恰恰是那个刚性约束。所以问题不是“值不值得”，而是“怎么用最少的钱满足要求”。
中小企业有一条可行的路径。基于英特尔至强W处理器、2-4块GPU卡构建的推理一体机，预算在十万元左右，可以支持数十人并发使用。淮北矿业等企业的实践也证明，本地化部署多款通用大模型同时研发垂类小模型，是中小企业可以承受的方案。
大型企业的账则完全不同。5000万元起步的硬件投入只是第一笔，真正的成本在后面的推理检索、语音转写、文档解析和多轮工具调用——这些环节持续叠加成本，而Agent出错导致的重复调用进一步加剧浪费。有企业一年造出1000个工业智能体，最后活下来的只有几十个，折损率超过九成。
写在最后
华为算力业务制造领域总工在论坛上说了一句话值得琢磨：大模型的“迟滞性”“幻觉”“概率性”，与工业生产对高实时性、高确定性、高稳定性的要求之间，存在现实矛盾。在日常生活中，AI答错一句话只需重新提问；但在工业场景，容不得随意试错。
所以，大模型进工厂，本质是一场工程实验。它的成功不取决于模型多聪明，而取决于数据多干净、硬件多匹配、安全多扎实、场景多聚焦。本地部署解决了数据主权问题，但并没有解决工程复杂度问题。后者才是决定一个工厂大模型项目能否活下来的关键。
你所在的工厂，大模型是跑在云端还是本地？部署过程中最大的“坑”出现在哪个环节——是硬件选型、数据治理，还是安全防护？