• <li id="m4mkm"></li>
  • <bdo id="m4mkm"></bdo>
  • 0
    • 聊天消息
    • 系统消息
    • 评论与回复
    登录后你可以
    • 下载海量资料
    • 学习在线课程
    • 观看技术视频
    • 写文章/发帖/加入社区
    创作中心

    完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

    3天内不再提示

    算力为基,共筑AI新生态

    华为 ? 来源:未知 ? 2023-09-22 23:00 ? 次阅读

    NEWS

    9月22日,华为全联接大会2023期间,华为计算产品线总裁张熙伟发表《算力为基,共筑AI新生态》主题演讲,他表示:华为将深耕算力底座,聚焦鲲鹏、昇腾基础软硬件创新,携手伙伴与开发者,打造开放、易用平台,使能百模千态,共赢数智未来。


    华为计算产品线总裁张熙伟

    以下是演讲全文

    尊敬的伙伴、开发者朋友们,大家上午好!


    很高兴与大家再次相聚在华为全联接大会2023,分享计算产业的生态进展与规划,畅想AI时代。


    人工智能正进入百模千态的大模型时代,对AI的生态发展提出了新的挑战。


    一方面,大模型快速演进,融合算子、加速库更加丰富,需要更加开放的技术体系,让开发者更灵活的实现大模型创新。


    另一方面,随着参数、数据快速增长,大模型的开发、调试、优化更复杂,业界需要更易用的全流程使能平台,加速大模型的开发与部署。


    另外,大模型训练投入大,软硬件工程能力要求高,行业有更强的商业变现诉求。需要全产业链伙伴合理分工,高效协同,才能实现商业共赢。


    过去四年,昇腾围绕软硬件协同、AI框架与工具链,持续夯实基础,发展技术与商业生态,支撑了全国20多个城市人工智能计算中心的建设,同时我们深入行业应用场景,服务金融、运营商、互联网等行业的智能化升级。


    这一切都离不开每一位伙伴和开发者的共同努力,再次感谢大家一路同行,对昇腾的信赖与支持。


    面向大模型时代,我们将持续聚焦伙伴与开发者的需求,全面升级昇腾基础软硬件,以开放、易用的平台使能百模千态;以高效协同的生态赋能千行万业。



    01
    全面开放,灵活选择使能大模型创新


    平台的开放和兼容一直是伙伴和开发者最为关心的问题。昇腾面向算子、框架、加速库和大模型全面开放,广泛支持、兼容业界生态,为大模型创新提供更多灵活选择。


    首先,昇腾提供丰富的融合算子,如主流的FlashAttention、FFN等,可在昇腾上实现性能倍级提升;


    其次,昇腾已全面支持PyTorch、飞桨、昇思等业界框架,同时PyTorch社区也在持续增强对昇腾的支持,今年10月社区将发布2.1版本,原生支持昇腾,欢迎大家下载使用


    在加速库与开发套件上,除了兼容业界主流的DeepSpeed、Megatron外,昇腾自主构建了大模型加速库AscendSpeed,提供丰富的大模型训练并行能力。同时,HuggingFace社区最新的TransformersAccelerate等代码仓也已原生支持昇腾,开发者直接下载,安装即用。


    模型层面上,目前已有50+主流的基础大模型基于昇腾训练迭代,昨天也有9家伙伴发布了大模型训推一体机,为行业提供更加丰富的选择。



    02
    深度开放,使能开发者构筑差异化竞争力


    算子和加速库是决定大模型训练与推理性能的关键,为支撑开发者孵化出更高性能的自定义算子、加速库,我们新增开放底层运行时,开发者可直接使用NPU上的核资源、控制流、任务调度等接口,原生构建差异化竞争力,各类接口将于年底前陆续开放。


    编程上,今年5月发布的Ascend C编程语言,简化开发逻辑,匹配开发习惯。这半年来持续升级迭代,支持混合编程与编译,增加归一化、三角函数等API,300余行大算子的开发周期从最初的2人月降到现在的2人周,大幅提升大模型创新效率。



    03
    ModelZoo2.0正式发布上线


    为了更好的发育大模型生态,昇腾社区全新升级了原有的ModelZoo,在已提供数百个预训练模型的基础上,年底前将持续上线40多个昇腾亲和的预训练大模型,同时支持各类大模型在线的功能体验 与性能对比,开放全流程的大模型开发工具与套件,支撑开发者快速实现大模型的二次开发。今天,ModelZoo 2.0正式上线昇腾社区。



    欢迎访问昇腾社区ModelZoo 2.0,也欢迎各位伙伴和开发者使用并反馈建议,共建大模型生态开源开放的新阵地。


    04
    大模型超级流水线,全流程使能大模型创新落地


    大模型创新涉及多个阶段,是个复杂的系统工程,除了以昇腾的大算力来加速训练外,我们还提供了大模型超级流水线,以友好的大模型开发环境和统一的全流程工具链,加速大模型的开发、迁移与部署。



    在脚本开发阶段,我们将经验沉淀成为大模型开发套件,覆盖业界主流的LLaMA、BLOOM、GLM等20多个开源大模型,并支持在PyTorch和昇思框架上使用。


    针对开发套件已支持的大模型,通过调用高阶API,十几行代码即可构建出完整的大模型脚本。通过多种并行算法,几行代码即可实现复杂的多维混合并行。同时提供了丰富的低参微调模板,支持一键启动微调,并生成模型评估报告。


    为了帮助大家将已有的大模型敏捷的迁移至昇腾上,我们提供了一站式工具链MindStudio。


    首先,千亿大模型全量脚本的迁移,多数仅需两行代码,针对定制算子也只需轻量的代码修改;如迁移出现精度偏差,MindStudio还支持精度数据自动导出与溢出分析,周级实现精度优化。


    其次,性能调优一直是最挑战的环节,随着BatchSize的增大,算力、内存和并行数据量随之增加,如何提升系统资源利用率尤为重要。为此,MindStudio提供集群性能数据分析与调优能力,如算子瓶颈分析、内存占用统计、慢卡通信定位和分布式策略优化等功能,大幅降低训练集群的调优难度。


    推理部署是大模型落地的“最后一公里”,快速部署与高效执行是核心。


    • 一方面,昇腾CANN的能力可开放给客户自有的推理引擎,帮助客户完成推理部署。


    • 另一方面,我们也提供昇腾推理引擎,将模型压缩、推理加速和推理执行等能力,以统一API接口提供出来,方便伙伴开发推理应用。同时昇腾推理引擎支持多种推理执行方式,比如PyTorch、昇思的带框架推理、ONNX离线推理以及Triton的推理服务化。


    05
    鼓励昇腾原生创新,加速伙伴商业共赢


    为共筑繁荣的大模型生态,实现伙伴商业共赢。昇腾围绕科研创新使能计划和大模型促进计划,鼓励开发者基于昇腾原生创新,打造更具竞争力的场景化解决方案。


    技术创新上,我们将每年投入千万资金扶持科研院所,推出系列大模型课程赋能高校教学,围绕开发者成长路径,激发价值创新。


    商业方面,我们将投入一亿资金支持大模型的技术联创,大模型伙伴可享受NRE和MDF两项权益,获得三大专属的市场支持。


    技术赋能商业成功,商业牵引技术进步,双轮驱动,共同打造更加协同的人工智能新生态。



    06
    以AI赋能openEuler更智能,以openEuler使能AI更高效


    人工智能的飞速发展对操作系统也带来了深刻影响。


    一方面,大模型让欧拉更智能。


    面向终端用户,Windows 12结合AI为大家带来了无限期待,面向数字基础设施,欧拉作为首个广泛支持AI的开源操作系统,正在颠覆传统的命令行交互方式。我们使用ChatGLM基础模型,基于大量欧拉操作系统的代码和数据,训练出了EulerCopilot,初步实现代码辅助生成、问题智能分析、系统辅助运维等功能。以前需要多领域专家协同解决的问题,未来都可以交给EulerCopilot。


    另一方面,欧拉使能AI更高效。


    欧拉通过异构资源统一管理与调度,实现CPU和XPU的深度融合,以更全局、更均衡和更精细化的视角统筹内存和算力,充分挖掘空闲资源,提升有效利用率,进而提升AI训练和推理性能。这些功能都会持续贡献社区,并合入23.09与24.03LTS版本发布。


    未来欧拉将携手伙伴、社区开发者,面向快速发展的行业需求,集成更多AI能力,高效统筹异构算力,致力于将欧拉打造成为全球领先的开源操作系统。



    智能化的加速发展需要坚实的数字化底座,数字化的深度决定智能化的高度,过去几年鲲鹏积极构建开放的软硬件平台,深耕行业数字化。


    07
    鲲鹏全栈升级,使能伙伴更卓越,加速千行万业智能化

    为了更好的赋能伙伴,服务客户,我们持续升级鲲鹏软硬件平台。


    昨天,我们发布了天池架构,支持伙伴面向千行万业,快速推出差异化机型。


    基础软件方面,openEuler全场景协同能力持续增强,进一步提供负载动态感知等关键能力,做到开箱即优。


    同时,我们还升级了鲲鹏BoostKit和DevKit 2大套件,八大主流场景性能持续提升,通过四大场景化SDK助力鲲鹏高效原生开发。



    人才是产业发展的根基,高校是人才培养的摇篮。3年前,华为联合教育部启动了智能基座项目,通过与72所高校的共同努力,积累了大量的鲲鹏、昇腾教学经验与资源。在高校人才峰会上,智能基座项目将升级走向2.0,持续深化产教融合与科教融合。


    高校学生是产业的未来,而开发者则代表了产业当下,我们将依托 “鲲鹏、昇腾”两大社区,围绕 “众智和开发者成长”两大计划,通过 “创新大赛与创享日”两大活动,持续培育开发者,让开发者成为计算产业发展的中坚力量。


    大模型带来新生态,大时代迎来新机遇。让我们携手奋进,众智合力,以算力为基,构筑开放、易用、协同的新生态,共创美好的数智新未来!




    原文标题:算力为基,共筑AI新生态

    文章出处:【微信公众号:华为】欢迎添加关注!文章转载请注明出处。

    声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
    • 华为
      +关注

      关注

      214

      文章

      31983

      浏览量

      244241
    收藏 人收藏

      评论

      相关推荐

      深度解析AI的现状和趋势

      AI 的现状和趋势谈起,并从硬件设计和算法优化两个层面切入,剖析提升的最新落地经验和误区,最后针对成本居高不下的普遍现状,引入的新型协作方式---借用区块链生态的分布式协作,大幅降低企业
      的头像 发表于 08-01 16:08 ?8142次阅读

      TensorFlow办公工具赋予了AI和功能

      AI 的能力下沉到更多移动终端上,才能完全打开智能的想象。前不久,金山 WPS 与 Google 合作,以 TensorFlow 架构办公工具赋予了 AI 和功能。
      的头像 发表于 01-01 10:59 ?1447次阅读
      TensorFlow<b>为</b>办公工具赋予了<b>AI</b><b>算</b><b>力</b>和功能

      去中心化全球资源平台坊介绍

      坊内生的生态系统代币,支撑着坊项目的运行,是生态系统中重要的支付载体, HPC 将坊数万台矿机价值担保,提供可靠的去中心化加密货币
      发表于 08-26 11:51 ?1265次阅读

      中兴通讯:5G产业创新之路

      生态博览会“产业数字化生态合作论坛暨中国电信5G产业创新联盟大会”上。中兴通讯副总裁、总裁助理崔丽出席并发表《云网,数字赋能,5G产业创新之路》主题演讲。
      的头像 发表于 11-09 09:15 ?1592次阅读

      OPPO开发者大会2021:AI服务新生态

      AI虚拟助手,AI服务新生态而来。
      的头像 发表于 10-27 11:03 ?1255次阅读
      OPPO开发者大会2021:<b>AI</b>服务<b>新生态</b>

      OPPO开发者大会:AI服务新生态

      AI服务新生态”的新主题,介绍了AI技术发展的重要性,并表示OPPO致力用户提出安全性保障。
      的头像 发表于 10-27 11:16 ?929次阅读
      OPPO开发者大会:<b>AI</b>服务<b>新生态</b>

      欧拉开源操作系统产业峰会:打造网络,数智未来

      网络,数智未来。
      的头像 发表于 11-09 10:45 ?1081次阅读
      欧拉开源操作系统产业峰会:打造<b>算</b><b>力</b>网络,<b>共</b><b>筑</b>数智未来

      龙芯中科首届LoongArch生态创新大会 凝芯聚 生态

      生态创新大会 凝芯聚 生态 龙芯中科一直致力于我国自主研发的道理,龙芯中科首届LoongArch生态创新大会 精彩多多亮点多多,欢迎大家围观! 龙芯中科技术股
      的头像 发表于 01-13 14:18 ?3689次阅读
      龙芯中科首届LoongArch<b>生态</b>创新大会 凝芯聚<b>力</b> <b>共</b><b>筑</b><b>生态</b>

      如何定义AI中心新实践

      尽其用·AI中心建设新实践”云端AI产业论坛在2022世界人工智能大会上隆重召开,来自人工智能领域院士专家、政府、科研院所和产业界的领导、学者和专家齐聚一堂,对人工智能领域
      发表于 09-05 10:48 ?783次阅读

      昆仑芯AI芯片以AI服务实体经济 经济新基建

      已经成为继热力、电力之后新的关键生产。数字化转型背景下,工业、能源、交通等领域对AI需求巨大。凭借多年技术沉淀和落地实践,昆仑芯(北京)科技有限公司(简称“昆仑芯科技”)在AI芯片
      的头像 发表于 10-19 16:31 ?1086次阅读

      不竭如江海,天翼云“息壤”如何助力千行百业智能调度?

      ,释放数字生产
      的头像 发表于 06-05 17:48 ?174次阅读

      燧原科技参加甘肃AI高峰论坛

      产业生态 创造‘芯’大未来”AI 峰会高峰论坛 在甘肃省天水市举行。 甘肃省省委书记、省人大
      的头像 发表于 06-25 12:20 ?590次阅读

      沐曦与上海联通签署战略合作协议,国产应用新生态

      需求特点,探讨了通用GPU如何加速数字产业化进程,赋能数字经济“四化”发展,实现AI应用提质增效。
      的头像 发表于 07-07 10:39 ?397次阅读

      2023WAIC:大大模型,拓维信息携手华为,AI数字化底座

      AI4S等产业热点,探索人工智能前沿技术,共谋人工智能在行业走深向实之道,赢智能大时代。 作为中国人工智能产业生态的共建者、华为昇腾战略的重要合作伙伴之一 ,拓
      的头像 发表于 07-07 17:40 ?856次阅读
      2023WAIC:大<b>算</b><b>力</b><b>筑</b><b>基</b>大模型,拓维信息携手华为,<b>共</b><b>筑</b><b>AI</b>数字化底座

      数智新生长 澎湃兴 中兴通讯全栈布局亮相2023中国大会

      (基础设施)大会在银川国际会展中心召开。中兴通讯以“数智新生长,澎湃兴”为主题亮相本次大会,全面展示与分享中兴通讯全栈解决方案及浪潮下的趋势洞见
      的头像 发表于 08-20 12:35 ?184次阅读
      私人尢物精品无码不卡
    • <li id="m4mkm"></li>
    • <bdo id="m4mkm"></bdo>