本站点使用cookies,继续浏览表示您同意我们使用cookies。Cookies和隐私政策

昇腾AI基础软硬件全面升级,以更开放易用的平台使能百模千态

2023年09月22日

[中国,上海,2023年9月22日] 华为全联接大会2023期间,华为计算产品线总裁张熙伟发表了“算力为基,共筑智能新生态”主题演讲。他表示,华为深耕算力底座,聚焦鲲鹏、昇腾基础软硬件创新,携手伙伴开发者,打造更放易用的平台,共筑更高效协同的生态,使能百模千态,共赢智能未来。

knote

华为计算产品线总裁张熙伟发表主题演讲

昇腾全面、深度开放,选择更灵活,使能开发者构筑差异化竞争力

昇腾面向算子、框架、加速库和大模型全面开放,广泛支持、兼容业界生态,为大模型创新提供更多灵活选择。提供丰富的融合算子,如主流的FlashAttention、FFN等,可在昇腾上实现性能倍级提升;全面支持PyTorch、飞桨、昇思等业界框架,同时PyTorch社区今年10月将发布2.1版本,原生支持昇腾;除了兼容业界主流的DeepSpeed、Megatron外,昇腾自主构建了大模型加速库AscendSpeed,提供丰富的大模型训练并行能力。同时,HuggingFace社区最新的Transformers、Accelerate等代码仓已原生支持昇腾,开发者直接下载,安装即用。目前已有50+主流的基础大模型基于昇腾训练迭代,9家伙伴发布了大模型训推一体机,为行业提供更加丰富的选择。

blank

昇腾以开放移动的平台使能百模千态,高效协同的生态赋能千行万业

为支撑开发者孵化出更高性能的自定义算子、加速库,昇腾进一步开放平台能力,将于年底新增开放底层运行时,开发者可直接使用NPU上的核资源、控制流、任务调度等接口,原生构建差异化竞争力。在编程上,今年5月发布的Ascend C编程语言,简化开发逻辑,匹配开发习惯。通过持续迭代,当前支持混合编程与编译,增加归一化、三角函数等API,300余行大算子的开发周期从2人月降到2人周,大幅提升大模型创新效率。

ModelZoo 2.0发布上线

为更好的发育大模型生态,昇腾社区全新升级ModelZoo 2.0,在已提供数百个预训练模型的基础上,年底前将持续上线40多个昇腾亲和的预训练大模型,同时支持各类大模型在线的功能体验 与性能对比,开放全流程的大模型开发工具与套件,支撑开发者快速实现大模型的二次开发。

knalb

ModelZoo2.0正式上线昇腾社区

超级流水线全流程使能大模型创新落地

大模型开发是一个复杂的系统工程,昇腾大模型超级流水线,以友好的大模型开发环境和统一的全流程工具链,使能大模型易开发、易迁移、易部署。昇腾大模型开发套件,轻量代码使能大模型极简开发;MindStudio全流程工具链使能大模型敏捷迁移,周级实现精度调试和性能调优;昇腾推理引擎统一推理业务全流程入口,支持多种推理方式使能应用快速部署。

鼓励昇腾原生创新,加速伙伴商业共赢

华为持续围绕科研创新使能和大模型促进两大计划,鼓励开发者基于昇腾进行根技术原生创新,赋能伙伴打造更具竞争力的大模型场景解决方案,共同打造更紧密协同的人工智能新生态。

以AI赋能openEuler更智能,以openEuler使能AI更高效

大模型让欧拉更智能。欧拉作为首个广泛支持AI的开源操作系统,正在颠覆传统的命令行交互方式。华为使用ChatGLM基础模型,基于大量欧拉操作系统的代码和数据,训练出EulerCopilot,初步带来代码辅助生成、问题智能分析、系统辅助运维等功能。以前需要多领域专家协同解决的问题,未来都可以交给EulerCopilot

欧拉使能AI更高效。欧拉通过异构资源统一管理与调度,实现CPU和XPU的深度融合,以更全局、更均衡和更精细化的视角统筹内存和算力,充分挖掘空闲资源,提升有效利用率,进而提升AI训练和推理性能。

鲲鹏软硬件平台进行创新升级

华为持续升级鲲鹏软硬件平台。天池架构支持伙伴面向千行万业,快速推出差异化机型。基础软件方面,openEuler全场景协同能力持续增强,进一步提供负载动态感知等关键能力,做到开箱即优。同时,升级鲲鹏BoostKit和DevKit 两大套件,八大主流场景性能持续提升,通过四大场景化SDK助力鲲鹏高效原生开发,更好的赋能伙伴,服务用户。

华为全联接大会2023(HUAWEI CONNECT 2023)以“加速行业智能化”为主题,邀请思想领袖、商业精英、技术专家、合作伙伴、开发者等业界同仁,从商业、产业、生态等方面共同探讨如何加速行业智能化。更多信息,请参阅华为全联接大会官网:https://www.huawei.com/cn/events/huaweiconnect

相关新闻