昇思开源社区新星：共同成长，助中国AI框架崛起

APP下载

扫一扫

下载观察者APP

昇思开源社区新星：共同成长，助中国AI框架崛起
- 吕栋[email protected]
分享到：

2024-12-23 17:55:32 字号：A- A A+ 来源：观察者网

时间来到2023年，学长负责的MindSpore NLP套件正处在项目初期的高速开发演进过程中，需要大量社区开发者投入其中。曾子瑄忙于学校大创项目结题和准备推免材料没有参加，但他在校内组织的MindSpore开源实习宣传吸引大量开发者加入。

随着研究生推免的结束，曾子瑄可支配的灵活时间明显比以前更多了，这时候恰好学长正在推广昇思开源社区中“关于在MindSpore NLP套件中迁移模型、单卡微调模型和多卡微调模型”的任务，并且完成任务还能获得报酬和奖励，于是曾子瑄很快便接下了这个任务。

在这个过程中，曾子瑄作为MindSpore NLP SIG的核心成员，先后完成四个大模型的迁移工作，包括一个Falcon大模型微调案例开发。在富有挑战性的算子开发领域，他申请了开源实习，完成了GPU后端的Flash Attention算子在MindSpore NLP的接入与调优，实现了两倍以上的推理速度提升。在当时，MindSpore NLP套件几乎不支持任何量化方法，而在比开源实习更高阶的开源之夏项目中，曾子瑄完成了基于MindSpore的BitsAndBytes量化库实现，降低了模型推理对显存的需求，提升了计算性能，增强了模型部署在端侧的可行性。

这其中既有他自身的努力，也离不开昇思开源社区的助力。

“在开发中，MindSpore提供的函数式和对象式融合编程范式，使构建神经网络和训练流程变得简单，提供的API映射文档也比较全面，大大降低了模型迁移的工作量。在自定义算子方面，MindSpore提供了Custom接口用于接入不同后端的算子，Custom接口会找到动态链接库中相应的函数，只要按照接口规范定义算子，就能够实现高效的运行时算子加载与运算。”曾子瑄对开发过程中MindSpore的技术优势印象颇深。

昇思将围绕开发者真实诉求，持续升级框架架构，使能AI模型未来创新

除了框架本身的技术特性外，加入开源社区还有一个明显的好处，就是当遇到难题时，有诸多技术大牛可以一起讨论解决问题，曾子瑄对此也深有体会。

“在开源之夏的项目开发过程中，因为需要迁移的BitsAndBytes库本身软件耦合程度高，关于算子接入的问题刚开始一直没找到合适的解决方案，后来摸清楚了项目本身的构建和执行逻辑，再跟MindSpore布道师和负责MindSpore自定义算子接口的工程师一起讨论，得出了基本解决方案，随后顺利地完成了程序中由上至下一条核心执行线路的移植，奠定了项目完成的基础。”他说道。

不难发现，正是在社区提供的诸多昇思MindSpore技术公开课、开源实习和活动比赛中，以曾子瑄为代表的年轻开发者获得了学习、实践和以练促学的机会，逐步成为AI领域中的新星。截至目前，昇思开源社区已提供30多个系列的AI主题课程，开展过600多场线上和线下的专题学习活动，并且已发布1100+开源实习任务，以及300+模型和算子任务，还举办过30多场大赛。

与昇思共成长，携手托起中国AI的未来

回想起在昇思开源社区中成长的点点滴滴，曾子瑄坦言自己收获颇多。

首页上一页 1 2 3 下一页余下全文
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签 AI 框架
- 责任编辑: 吕栋
- 首个国产靶向药美国获批，意义多大？
  
  2024-12-23 14:05
- 中车斩获迪拜56亿美元大单
  
  2024-12-23 11:35
- “人在家中坐，账户天上来”，多家银行回应
  
  2024-12-23 11:33 养老与社保
- 规模堪比美国总部！英伟达被曝拟在台湾建立新总部
  
  2024-12-23 11:00
- “虾滑疑吃出蛆”？海底捞回应
  
  2024-12-21 17:21 食品安全
- 民营经济促进法草案，提请全国人大常委会会议审议
  
  2024-12-21 09:54 政策风向标
- 越南关停2G，推动4G手机出货量骤增
  
  2024-12-20 22:17 观网财经-科创
- 中国“光伏OPEC”发文严厉质问央企，怎么回事？
  
  2024-12-20 18:06
- 微信发力社交电商？小店上线“送礼物”功能
  
  2024-12-20 18:00 观网财经-互联网
- 华为超充机器人亮相：明年上半年量产
  
  2024-12-20 16:33 华为
- 美企侵权，华为在欧洲胜诉
  
  2024-12-20 15:48 观网财经-科创
- 小红书大面积封号登顶热搜，有用户称参加个活动就被封
  
  2024-12-20 14:30 大公司
- 他俩一个自杀、一个被捕？苹果AI推送假新闻闹大了
  
  2024-12-20 12:38 网络安全
- 中国1年期国债收益率跌至1%
  
  2024-12-20 10:39 金融观察
- “年底前央行降准幅度或达0.5%”
  
  2024-12-20 10:06 金融观察
- 英伟达最大买家曝光，一年囤了近50万颗GPU
  
  2024-12-19 20:18 观网财经-科创
- 首个智能体安全生态协作组织成立：华为、小米、高通等加入
  
  2024-12-19 19:56 观网财经-科创
- 放下身段的日本车企，学起中国来能有多彻底？
  
  2024-12-19 16:30 观察者头条
- 苹果被曝与腾讯、字节接洽大模型合作，此前传与百度合作不顺
  
  2024-12-19 14:20 大公司
- 日本买的EUV光刻机开始安装，准备造2nm芯片
  
  2024-12-19 12:25 观网财经-科创
搜索

   观察者头条查看全部

后院起火？加拿大“最保守省”酝酿“独立公投” 评论 73

美财长卖力为关税洗地，台下高管们只关注中国评论 49

印外长怼欧盟：这么依赖中美俄，还想战略自主… 评论 119

“美国买家缺席，结果很意外！” 评论 75

特朗普又开新战线，“只会鼓励各国像中国一样反制” 评论 131

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

昇思开源社区新星：共同成长，助中国AI框架崛起

首个国产靶向药美国获批，意义多大？

中车斩获迪拜56亿美元大单

“人在家中坐，账户天上来”，多家银行回应

规模堪比美国总部！英伟达被曝拟在台湾建立新总部

“虾滑疑吃出蛆”？海底捞回应

民营经济促进法草案，提请全国人大常委会会议审议

越南关停2G，推动4G手机出货量骤增

中国“光伏OPEC”发文严厉质问央企，怎么回事？

微信发力社交电商？小店上线“送礼物”功能

华为超充机器人亮相：明年上半年量产

美企侵权，华为在欧洲胜诉

小红书大面积封号登顶热搜，有用户称参加个活动就被封

他俩一个自杀、一个被捕？苹果AI推送假新闻闹大了

中国1年期国债收益率跌至1%

“年底前央行降准幅度或达0.5%”

英伟达最大买家曝光，一年囤了近50万颗GPU

首个智能体安全生态协作组织成立：华为、小米、高通等加入

放下身段的日本车企，学起中国来能有多彻底？

苹果被曝与腾讯、字节接洽大模型合作，此前传与百度合作不顺

日本买的EUV光刻机开始安装，准备造2nm芯片

“如果谈判失败，欧盟计划对1000亿欧元美国商品征收关税”

后院起火？加拿大“最保守省”酝酿“独立公投”

日本先谈判先遇挫，特朗普政府又臭又硬、寸步不让

美财长卖力为关税洗地，台下高管们只关注中国

特朗普又开新战线，“只会鼓励各国像中国一样反制”

印外长怼欧盟：这么依赖中美俄，还想战略自主…

“美国买家缺席，结果很意外！”

日本想“跪”，被警告：政府将垮台

特朗普：最初是我“炸”了它

“关税将抹掉15亿美元利润”，福特撤回了一个预期

县长张汉坤官宣被查，公安局长落马后“消失”4个月

今年第三次议息，美联储“将无视特朗普，维持不变”

在他嘴里，加拿大都成了“靠美国养活的社会主义政权”

越南总理：越美首轮谈判本周三举行，维持全年8%增长目标

“最美教师”邓滢，履新职

五一出游哪里人最多？河南接待游客6450.3万人次