Awesome MegEngineer 英雄招募帖,开源社区专属权益等你来领

MegEngine 社区优秀贡献者荣誉体系 —— “Awesome MegEngineer”上线啦!诚邀同样热爱开源的你加入! 什么是 “Awesome MegEngineer“ Awesome MegEngineer 是 MegEngine 社区中一群有突出成...

2022/11/17 10:32
56
使用 C++ 部署深度学习模型快速上手方案

本文将从获取一个训练好的 shufflenet_v2 模型出发, 讲解如何使用 MegEngine Lite 的 C++ 接口将其部署到 CPU(Linux x86 / Android Arm)环境下运行。主要分为以下小节: 导出已经训练好的...

2022/11/14 15:48
88
AI 模型编译器 MegCC 开源,解决推理引擎体积问题

目前社区已经有多个移动端深度学习推理框架,如:NCNN、MNN... 这些推理引擎都给社区的用户带来了在移动端上部署深度学习非常多的便利,但是他们也都有一个共性问题:随着不断地迭代以及性能...

开源 2 年半,除了性能优化我们啥也没做

性能优化是个十分广泛的话题,它涉及 CPU、内存、磁盘、网络等方面。MegEngine 作为一个训推一体的深度学习框架,也在持续不断探索性能优化的最优解。 本篇整理了 Bot 过往发布的相关文章,希...

2022/10/08 13:11
1.4K
MegEngine Python 层模块串讲(中)

在前面的文章中,我们简单介绍了在 MegEngine imperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法,对于模块的结构和原理也是一头雾水。Python 作为现在深...

07/28 11:13
28
MegPeak——让你更懂你的处理器

作者:陈其友 | 旷视 MegEngine 架构师 MegPeak 介绍 在这个算力需求爆炸的大背景下,如何发挥出已有硬件的最大算力变得非常重要,直观一点是:我们需要对现有算法针对特定的处理器进行极致的...

2022/12/05 16:13
183
MegEngine Inference 卷积优化之 Im2col 和 winograd 优化

作者:于雄雄 陈其友 | 旷视 MegEngine 架构师 背景 在 CV 领域中,卷积计算是扩充像素的感受野的有效方法,模型大多数的计算量都是卷积操作贡献的。因此在 CV 模型的推理性能优化中,最重要...

2022/11/30 17:28
852
提速还能不掉点!深度解析 MegEngine 4 bits 量化开源实现

作者:周瑞亮 | 旷视 MegEngine 架构师 随着深度学习的发展,其应用场景也越发的广泛与多样。这些多样化的场景往往会对实际的部署提出更加“定制化”的限制。例如,自动驾驶汽车对人体识别的...

A100 买不到了,只有小显卡怎么训大模型

为了达到更好的训练效果,通常炼丹师们会使用更大的模型和更大的 Batch size,但因此带来的大显存占用,却成为不可避免的硬伤。 尤其是如今 GPU 越来越贵,甚至还可能买不到...... MegEngin...

没有更多内容

加载失败,请刷新页面