工业大模型技术应用与发展报告1.02023.12编写单位（排名不分先后）牵头编写单位：中国信息通信研究院参与编写单位：中科云谷科技有限公司浪潮集团有限公司中科视语科技有限公司苏州海赛人工智能有限公司北京通用AI研究院树根互联股份有限公司华为技术有限公司IBM（国际商业机器（中国）有限公司）美云智数科技有限公司中科斯欧(合肥)科技股份有限公司百度在线网络技术（北京）有限公司羚羊工业互联网股份有限公司创新奇智科技集团股份有限公司智昌科技集团股份有限公司中国科学院自动化研究所中工互联北京科技集团有限公司西门子股份公司航天云网科技发展有限责任公司威派格智慧水务股份有限公司卡奥斯COSMOPlat阿里云计算有限公司腾讯计算机系统有限公司人工智能的几个相关概念人工智能 机器学习深度学习通用人工智能（AGI）生成式AI：能够生成文本、图片、视频等内容的智能技术，大模型为其提供了新的技术手段早期GAN用于内容生成效果有限，如NLP逐词生成大模型拓展了生成能力，如实现多领域多风格图像/文本生成通用人工智能：AI终极发展目标，具备认知、理解、推理、学习、创造和社会协作等能力大模型具备学习、生成等能力，但还缺少完备的推理、认知能力大模型：即基础模型，在海量数据和计算资源的基础上通过预先训练出来的，具有大参数规模的深度学习模型狭义多指大语言模型，广义还包括CV、多模态等各种模型类型技术场景模型结构目标使命大规模预训练模型生成式AI（AIGC）GPTGPT：生成式预训练模型，大模型的一种类型，可生成内容ChatGPT是GPT的一个典型产品细分模型1.1 大模型成为通用AI新范式，引发工业应用变革讨论干亿参数基础模型GPT-1 : 1.17亿GPT-2:15亿GPT-3:1750亿GPT=4：1.48万亿......TB级数据超3000亿单词830GB代码数据1000个外包团队标注E级智能超算总算力超195PFlops我国最快超算“神威·太湖之光”1.7倍AI产品渗透速度全球排名第2引发产业领域应用的热烈讨论与憧憬大模型+大数据+大算力成为发展主旋律 (ChatGPT)热门应用用户破亿所需时间ChatGPTTikTok微信App Store短视频社交即时通讯应用程序商店2年1.2年9个月2个月Threads5天 产业应用场景成为大模型最佳“练兵场”——科技日报 AI大模型落地背后，正带来一场智能制造的系统重构——百度 工业大模型将会带来一场新的工业革命，它将来会成为工业领域的基础设施——中工互联 制造业是AI大模型的重要战场，未来10年最大的机会——阿里…1.2 工业大模型与专用小模型成为工业AI发展的两条协同路径 Transformer为基础框架 在大量通用数据上进行预先训练，以实现良好的通用性 模型参数一般达十亿以上（最大模型参数已达万亿级）1满足大模型技术基本特征2具备在工业各环节进行应用的能力，或与工业装备软件等融合赋能工业大模型=工业+大模型工业大模型Transformer结构工业专用小模型传统模型结构 模型更新快：参数量少，可进行快速迭代 轻量化部署：所需存储空间和算力更小 新场景：代码生成、CAD生成等新应用… 泛化性强：单模型应对多任务，更适合长尾落地 低成本运维：低成本开发+维护应用层面工程层面 特定任务：点状场景应用效果更好1.3 大模型初步形成赋能工业的核心方式与产品形态3类主要赋能方式当前(可用于)工业领域大模型超30个4类模型产品形态基于通用底座直接赋能行业ChatGPTYonGPT制造、矿山等行业大模型航天、能源等行业大模型式说大模型星火大模型3D打印GPTPLC编程基于通用底座进行场景化适配调优或形成外挂插件工具……大模型API调用或软件方案成熟工业产品叠加基础模型能力外挂插件工具用于私有化部署的一体机•工业管理软件企业Authentise推出插件，用户可查询最大的增材制造知识库•浙大开发用于表格处理的TableGPT•倍福将大模型融入 TwinCAT XAE客户端，实现基于对话辅助编程•基于ChatGPT直接开展智能客服等应用•科大讯飞推出星火一体机Einstein GPT面向工业或具体任务针对性开发科学大模型ESMFoldUni-MolAlphaFold2…2.1 大模型赋能工业领域的适用边界与核心能力 语言理解 生成创作 识别/模拟/预测 多模态核心...
