-
训推一体,华为昇腾一体机星辰大海!一文看懂细分机会
大红牛 / 2023-11-16 21:23 发布
据央广网报道,面对大模型研发周期长、部署门槛高、业务安全性等系列挑战,华为发布大模型训推一体化解决方案,结合昇腾AI基础软硬件能力、伙伴大模型和训推一体平台优势,为行业客户提供“开箱即用”的大模型一体化解决方案,重塑大模型开发流程,解决各行业广泛大模型落地需求,让大模型在行业充分发挥价值。其优势在于私有化部署,私有化部署需求的企业大多是企业业务具有高度保密需求一:昇腾一体机 打通 A I 落地“最后一公里”
昇腾A I 一体机是国内 A I 软硬件技术的黄金交点, 是 以 国产算力领军者 华为昇腾 AI 基础软硬件平台为基础, 联合国内 领先 A I 厂商 打造的先进生产力工具。昇腾一体机 专注于 大模型本地化部署 的 蓝海市场,乐观预计 2027 年 G 端昇腾一体机规模超 4500 亿元 。 昇腾 AI 一体机是国内 AI 软硬件技术的黄金交点,是以国产算力领军者华为昇腾 AI 基础软硬件平台为基础,联合国内领先 AI 厂商打造的先进生产力工具 ,有着数据安全可控、开箱即用的特点 AI 大模型在数据安全与数据要素驱动下,带来央国企与政府大模型本地化部署的刚需。
昇腾一体机需要A I 厂商拥有强大的 A I 领域软硬件一体化工程能力。 据芯智
讯, 华为跟科大讯飞共同在昇腾 AI 的软硬件平台和软件的支撑工具上,把高算力
AI 芯片、高性能的算子库、多卡高速互联以及分布式存储结合起来,尤其是联合
针对人工智能所需要的最重要的算子库进行甄别和打磨 此外 ,科大讯飞的训练和数据闭环全流程设计,以及训练和推理一体化设计的自研大模型训练平台支持大规模的异构算力兼容 、 也支持混合云架构易拓展 等特性也起到重要作用。
二:华为昇腾软硬件生态不断成熟为昇腾一体机发展注入源源动力 。
华为 昇腾9 10 整数精度( I NT8 )算力可达 6 40TOPS ,在业界其算力处于领先水平,性能水平接近于英伟达 A 100 ,为昇腾一体机带来强大算力 C ANN 、 MindSpore 、Mind S tudio 等软件体系加速昇腾 A I 落地; 五大类生态伙伴,覆盖众多优质主流合作伙伴,繁荣生态助力产业长期发展。1)昇腾软件体系不断成熟
华为针对A I 场景,设计了异构计算架构 C ANN 、 A I 计算框架 Mind Spore 和第三方适配以及全流程开发工具链 M indStudio 。本文主要关注 C ANN ,Mind S pore 和 M indS tudio 。CANN 是一种异构计算架构,功能类似英伟达 C UDA 。 C ANN 位于计算资源层和应用层之间,即芯片使能层,实现了在高性能计算硬件和 AI 应用之间架起一座桥梁。部署在昇腾服务器,包含统一的编程语言、统一网络构图接口、高性能计算引擎以及算子库。通过 Ascend CL 对外提供 Device 管理、 C o n text 管理、Stream 管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等A PI ,帮助开发者实现在 C ANN 平台上进行深度学习推理计算、图像预处理、单算子加速计算。在离线推理场景和训练场景都有应用。昇腾一体机集成软硬一体交付效果,实为大模型与算力的最优解:目前华鲲振宇、软通动力、科大讯飞、智谱AI、医渡科技、安恒信息、中软国际陆续发布其昇腾一体机解决方案,我们判断其有望赋能千行百业。目前已经落地场景有:AI训练开发一体机解决方案赋能山东大学科研创新、软通动力AI机器人-昇腾一体机,助力深圳机场国际快件海关监管EIMS系统智能化升级等。
昇腾一体机 企业梳理
服务器:中国长城、神州数码、拓息、四川长虹、天源迪科、高新发展等;
电源:泰嘉股份、杰华特、欧陆通、科华数据等
一体机:
科大讯飞:联手华为打造国产 A I W intel ”联盟,与华为联合发布星火一体机,合作共建全国产化算力底座。
软通动力:昇腾 A I 生态圈践行者,软通动力作为中国领先的软件与信息技术服务商,长期深耕数字创新服务+AI赛道,拥有完整的技术创新体系,并成立了专注于 AI 领域的人工智能研究与创新中心 ( AIC),为客户的 AI 服务体系提供支撑。同时软通动力积极融入昇腾 AI 生态圈。
云从科技:昇腾一体机赋能千行百业数字化转型,从容大模型训推一体机是重庆人工智能创新中心孵化的首个大模型及解决方案,基于从容大模型,用户可以训练、构建和管理自己的大模型。
恒为科技: AI 算力可视化的“光模块” ”,昇腾一体机业务有序推进中 。